AI スネークオイル：人工知能ができること、できないこと、そしてその見分け方

アルヴィンド・ナラヤナンとサヤシュ・カプールは、「人工知能」という言葉が意図的に曖昧にされている現実を暴く。テキストを生成する生成AIと、人間の行動を予測すると主張する予測AIは根本的に異なる技術だ。COMPASは137変数を使いながら「年齢と前科」だけの単純ルールと同程度の精度しか出せず、フラジャイル・ファミリーズ・チャレンジでは最先端の機械学習もコイン投げをわずかに上回る程度だった。オランダでは詐欺検出アルゴリズムが三万人の親を誤告発し、首相辞任に至った。

学べること：

- 予測AIが機能しない構造的理由

- 累積的優位性が予測を不可能にする仕組み

- 独立検証を拒む企業の手口