人工知能（AI）推論モデルは、表示ほど能力がありません。 Appleの研究者によると、実際には、タスクが複雑になりすぎると、パフォーマンスが完全に崩壊します。

AnthropicのClaude、OpenaiのO3、DeepseekのR1などの推論モデルは、より多くの時(shí)間と計(jì)算リソースを費(fèi)やして標(biāo)準(zhǔn)モデルと比較してより正確な応答を提供するように設(shè)計(jì)された高度な大規(guī)模な言語モデル（LLM）です。

これらのモデルの出現(xiàn)により、一部の主要なハイテク企業(yè)は、ほとんどの認(rèn)知タスクで人間を上回ることができるシステムを指す人工的な一般情報(bào)（AGI）の達(dá)成に近づいている可能性があるという新たな主張を行うようになりました。

ただし、 AppleのMachine Learning Research Webサイトで6月7日に発行された最近の論文は、これらの主張に挑戦し、競合する企業(yè)に強(qiáng)い反論を提供します。この調(diào)査によると、推論モデルは一般的な推論能力を?qū)g証できないだけでなく、タスクが一定レベルの複雑さに達(dá)すると、推論能力が大幅に低下します。

「さまざまなパズルにわたる広範(fàn)なテストを通じて、主要なLRMSが特定の複雑さのしきい値を超えて完全な精度崩壊を経験することを示しています」と研究者は述べています。 「さらに、予期しないスケーリングの制限を表示します。問題の難易度とともに、推論の努力が増加し、十分なトークン容量が利用可能であっても減少します?！?/p>

LLMは、膨大な量の人間生成データから學(xué)習(xí)することで改善します。これにより、プロンプトが表示されたときに、ニューラルネットワークを通じて確率的パターンを生成できます。

関連： AIは頻繁に「幻覚」しますが、修正があります

ライブサイエンスデイリーニュースレターに今すぐサインアップしてください。推論モデルは、「考え方」として知られる方法を使用してAI精度を強(qiáng)化することを目指しています。これには、人間が論理を適用して問題を解決する方法をシミュレートするマルチステップ応答を生成することが含まれます。

このプロセスにより、チャットボットは推論を確認(rèn)および改良することができ、より正確なより挑戦的なタスクを処理できるようにします。考え方の処理中に、モデルは自然言語でロジックを段階的に明確にし、意思決定プロセスを簡単に追跡できるようにします。

それにもかかわらず、このアプローチは本物の理解ではなく統(tǒng)計(jì)的推論に依存しているため、チャットボットはしばしば誤った答えを生み出し、情報(bào)が不足しているときに物事を補(bǔ)い、時(shí)には奇妙または危険なアドバイスを提供します。

Openaiのテクニカルレポートは、推論モデルが通常のモデルよりも幻覚の影響を特に受けやすく、モデルが進(jìn)化するにつれて問題が悪化することを明らかにしました。

たとえば、個(gè)人に関する事実情報(bào)を要約するように求められた場合、同社のO3およびO4-MINIモデルは、それぞれ以前のO1モデルのわずか16％と比較して、それぞれ33％と48％の誤ったコンテンツを生成しました。 Openaiの當(dāng)局者は、これがなぜ発生するのか確信が持てないことを認(rèn)め、「これらの結(jié)果の原因を理解するには、より多くの研究が必要だ」と述べた。

「これらの問題に関する徹底的な調(diào)査がないことは、現(xiàn)在の評価方法の欠點(diǎn)に起因すると考えています」とAppleの新しい研究の著者は書いています。 「ほとんどの既存の評価は、よく知られている數(shù)學(xué)とコーディングベンチマークを中心にしていますが、これは有用ですが、多くの場合、さまざまな複雑さにわたってデータの汚染に直面し、制御された実験條件を欠いています。さらに、生成された推論パスの構(gòu)造と品質(zhì)に関する洞察を提供しません?！?/p>

ブラックボックスの中を覗く

これらの制限をよりよく理解するために、研究者は、OpenaiのO1とO3、Anthropic's Claude 3.7 Sonnet、およびGoogleのGeminiを含むジェネリックモデルと推論モデルの両方をテストしました。関係する要素の數(shù)を増やすことにより、パズルの複雑さを変える可能性があります。

低複合シナリオでは、ジェネリックモデルは、推論チェーンの計(jì)算負(fù)擔(dān)が追加されずに問題を解決することにより、推論モデルよりも優(yōu)れていました。パズルがより複雑になるにつれて、推論モデルが最初に優(yōu)位性を獲得しましたが、この利點(diǎn)は高複雑條件下で完全に消滅しました。

重要なしきい値が交差すると、推論モデルはより少ないトークン（基本単位モデルがデータを分解するために使用する）をより複雑なタスクに割り當(dāng)てることを割り當(dāng)て、より少ない推論に従事し、長い思考チェーンを維持する際に基本的な限界に直面したことを示しています。これらの制限は、正しいソリューションが提供された場合でも持続しました。

「ハノイ塔のソリューションアルゴリズムをモデルに與えたとき、このパズルでのパフォーマンスは改善されませんでした」と著者は述べました。 「さらに、モデルによって行われた最初の誤った動(dòng)きを調(diào)べると、驚くべき行動(dòng)が明らかになりました。たとえば、ハノイの塔で最大100の正しい動(dòng)きを正常に完了することができましたが、川を橫斷するパズルで5つ以上の正しい動(dòng)きを完了するのに苦労しました?！?/p>

以上がOpenaiとDeepseekの最先端のAIモデルは、問題が困難になったときに「完全な崩壊」を受けると、研究が明らかにしていますの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國語 Web サイトの他の関連記事を參照してください。