LassoとRidgeとの違いは？scikit-learn ElasticNetの基本と最適な使い方を徹底解説

機械学習の回帰問題を扱う際、「Lasso回帰」「Ridge回帰」「ElasticNet」といった手法を耳にすることが多いでしょう。これらはすべて、基本的な線形回帰モデルの過学習を防ぎ、性能を向上させる「正則化」という技術を使っています。

しかし、「結局、この3つの違いは何？」「自分のデータにはどれを使えばいいの？」と迷ってしまう方も少なくありません。

この記事では、そんな疑問を解消するために、3つの手法の決定的な違いを結論から解説し、特に両者の”良いとこ取り”であるElasticNetに焦点を当てて、その基本的な仕組みからPythonのscikit-learnを使った最適な使い方までを徹底的に解説します。

はじめに：どの正則化回帰モデルを選べばいい？

データ分析において適切なモデルを選択することは、予測精度に直結する重要なステップです。特に特徴量が多いデータや、特徴量同士の関連性が高いデータを扱う場合、単純な線形回帰では良い結果が得られないことがあります。

Lasso、Ridge、ElasticNetは、そうした複雑なデータに対応するための強力な選択肢ですが、それぞれの特性を理解せずに使うと、その性能を十分に引き出すことはできません。この記事を読めば、あなたのデータセットに最適なモデルがどれなのか、自信を持って判断できるようになります。

結論から解説！Lasso・Ridge・ElasticNetの決定的な違い

まず最初に、3つのモデルがそれぞれどのような役割を持っているのか、その核心となる違いを解説します。

Lasso回帰：不要な特徴量を削ぎ落とす「特徴量選択」の専門家

Lasso（ラッソ）回帰の最大の特徴は、不要だと判断した特徴量の係数（重み）を完全に0にできることです。 多くの特徴量の中に、予測に本当に役立つものはごく一部しかない、という場合に非常に有効です。自動で重要な特徴量だけを残す「特徴量選択」を行ってくれるため、モデルがシンプルになり、解釈しやすくなるというメリットがあります。

Ridge回帰：特徴量同士の強い相関（多重共線性）に強い安定化の専門家

Ridge（リッジ）回帰は、係数が極端に大きな値になることを防ぎ、モデル全体を安定させる役割を果たします。特に、互いに似たような動きをする特徴量（相関が高い特徴量）がたくさんある場合に効果を発揮します。 Lassoとは対照的に、係数を0に近づけることはあっても、完全に0にすることはありません。そのため、すべての特徴量をモデルに残したまま、過学習を抑制したい場合に適しています。

ElasticNet：両者の良いとこ取りをしたバランス型のオールラウンダー

そして、この記事の主役である**ElasticNet（エラスティックネット）**は、LassoとRidgeの両方の性質を兼ね備えた、バランスの取れたモデルです。 Lassoのように不要な特徴量の係数を0にしつつ、Ridgeのように相関の高い特徴量グループをまとめて扱うことができます。どちらの特性をどの程度重視するかを調整できるため、非常に柔軟で強力な手法です。

一目でわかる比較表

ElasticNetの基本を理解する

ElasticNetがどのようにしてLassoとRidgeの能力を両立させているのか、もう少し詳しく見ていきましょう。

ElasticNetはどのようにLassoとRidgeを組み合わせているのか？

ElasticNetは、モデルの複雑さに対するペナルティとして、Lassoが使う「L1正則化」とRidgeが使う「L2正則化」を両方同時に適用します。 そして、「l1_ratio」というハイパーパラメータを使って、L1とL2のどちらのペナルティをより重視するかの割合をコントロールします。これにより、データに合わせて最適なバランスを見つけることが可能になります。

ElasticNetを選ぶべき具体的なシチュエーションとは？

以下のような状況では、ElasticNetが第一の選択肢となるでしょう。

• 特徴量が非常に多い場合（数百〜数千以上）: 特徴量選択を行いつつ、モデルを安定させることができます。
• 相関の高い特徴量グループが存在する場合: Lassoが苦手とする状況でも、ElasticNetは安定した結果を返します。
• LassoとRidgeのどちらが良いか判断に迷う場合: まずはElasticNetを試し、l1_ratioの最適な値を探ることで、データがどちらの性質に近いかを知る手がかりにもなります。

scikit-learnでElasticNetを実装してみよう【基本編】

それでは、Pythonのscikit-learnライブラリを使ってElasticNetを動かしてみましょう。 このコードはscikit-learn 1.0以降のバージョンで動作します。

必要なライブラリとサンプルデータの準備

import numpy as np
from sklearn.linear_model import ElasticNet
from sklearn.datasets import make_regression
from sklearn.model_selection import train_test_split

# サンプルデータの生成
# 特徴量20個のうち、15個が予測に役立つ相関のあるデータ
X, y = make_regression(n_samples=200, n_features=20, n_informative=15, random_state=42)

# データを学習用とテスト用に分割
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

ElasticNetモデルの基本的な使い方

モデルのインスタンスを作成し、fitメソッドで学習させるだけです。

# ElasticNetモデルの初期化
# alpha: 正則化の強さ, l1_ratio: L1とL2の混合比率
model = ElasticNet(alpha=1.0, l1_ratio=0.5, random_state=42)

# モデルの学習
model.fit(X_train, y_train)

# テストデータに対するスコア（決定係数）を確認
score = model.score(X_test, y_test)
print(f"R^2 Score: {score:.4f}")

学習済みモデルの係数を確認してみる

model.coef_で、学習後の各特徴量の係数を確認できます。

# 学習された係数を表示
print("Coefficients:", model.coef_)

# 係数が0になった特徴量の数をカウント
zero_coef_count = np.sum(model.coef_ == 0)
print(f"\nNumber of features with zero coefficient: {zero_coef_count}")

l1_ratioが0より大きいため、いくつかの係数が完全に0になり、特徴量選択が行われていることが確認できます。

ElasticNetの性能を最大化する「最適な使い方」【実践編】

ElasticNetの真価を引き出すには、ハイパーパラメータの調整が不可欠です。

性能の鍵を握る2つのパラメータ：「alpha」と「l1_ratio」

• alpha: 正則化全体の強さを決めます。値が大きいほどペナルティが強くなり、より多くの係数が0に近づきます。
• l1_ratio: L1とL2のバランスを決めます。この値が1ならLasso、0ならRidgeと等価になります。

l1_ratioでLassoとRidgeのバランスを調整する

l1_ratioを調整することで、モデルの挙動をコントロールできます。

• l1_ratio=1.0: Lasso回帰と完全に同じ。特徴量選択を最優先します。
• l1_ratio=0.0: Ridge回帰と完全に同じ。特徴量選択は行いません。
• l1_ratio=0.5: L1とL2のペナルティを均等に適用します。

GridSearchCVで最適なパラメータを自動で見つける方法

scikit-learnのGridSearchCVを使えば、これらのパラメータの最適な組み合わせを効率的に探索できます。

from sklearn.model_selection import GridSearchCV

# ElasticNetモデルの準備
elastic_net = ElasticNet(random_state=42)

# 試行するハイパーパラメータの候補を設定
param_grid = {
    'alpha': [0.1, 1.0, 10.0],
    'l1_ratio': [0.1, 0.5, 0.9, 1.0]
}

# グリッドサーチで最適なパラメータを探す
grid_search = GridSearchCV(estimator=elastic_net, param_grid=param_grid, cv=5, n_jobs=-1, verbose=2)
grid_search.fit(X_train, y_train)

# 最も性能が良かったパラメータ
print("\nBest Parameters:", grid_search.best_params_)

# 最適なモデルでスコアを再評価
best_model = grid_search.best_estimator_
best_score = best_model.score(X_test, y_test)
print(f"Best Model R^2 Score: {best_score:.4f}")

このプロセスにより、データセットに最も適したElasticNetモデルを構築することができます。

まとめ：3つのモデルを正しく理解し、使い分けよう

今回は、Lasso、Ridge、ElasticNetの違いと、ElasticNetの最適な使い方について解説しました。

• Lassoは「特徴量選択」、Ridgeは「安定化」に特化している。
• ElasticNetは両者の強みを持ち、l1_ratioでバランスを調整できる柔軟なモデル。
• どのモデルを使うか迷ったら、まずはElasticNetを試してみるのが良い戦略。
• scikit-learnの**GridSearchCV**を使えば、最適なハイパーパラメータを効率的に見つけられる。

これらの正則化モデルは、あらゆる回帰問題であなたの分析を助ける強力なツールです。それぞれの違いを正しく理解し、状況に応じて適切に使い分けることで、モデルの予測精度を一段と高めることができるでしょう。