cream cat

AI 技術の急速な発展と特に GPT の台頭により、この言葉が私の頭の中で何度も点滅しました。OpenAI 社のモデルの能力に関する説明によれば、彼らはなぜ GPT が 3.5 から非凡なパフォーマンスを発揮し始めたのか、またはこのパフォーマンスを理論的に説明することができないと述べていますが、実際には、この言葉は既に存在していました。

涌き出る現象とは何ですか？専門的な定義では、涌き出る現象とは、システム内で大量の微小な相互作用と相互作用があるため、予期しない全体的な特性や行動が現れることを指します。これらの全体的な特性や行動は、システムの構成要素の個々の振る舞いだけで簡単に理解や予測することはできず、システム全体の相互作用を考慮する必要があります。
有名な例としては、アリの行動があります。個々のアリの行動は非常に単純ですが、特定の方法で相互作用すると、アリの群れ全体が巣を建設したり、食物を探したり、アリの群れを保護したりするなど、非常に複雑な行動を示すことがあります。

大規模な AI モデルについても同じことが言えます。トレーニングデータの量が増えるにつれて、本来単純な予測モデルが突然論理的な理解能力を持つようになり、この能力がより良い予測をもたらすため、さらに良い予測が論理能力を向上させるという好循環が生まれ、涌き出てきます。もう 1 つの例はソーシャルネットワークです。人々が相互に接続し影響を与えることで、逆にソーシャルネットワーク自体も個人に影響を与え、相互作用により予期しない状態やシナリオが生じます。

多くの国内の専門家は、AI が論理的な能力を持っているかどうかについて疑問を抱いています。彼らは言語モデルが論理を生成することはできないと考えており、その論点は非常に単純です。論理的な能力は高度な知的生物、例えば人間だけが持つものだということですが、人間も生まれた時点ではこの能力を持っていません。人間は生まれた時には本能的な反応しか持っておらず、呼吸能力や摂取能力に関わらず、脳の神経細胞の発達は人間の成長に伴って徐々に成熟し、完全に発達するのは 20 歳以降です。では、なぜ AI は異なるのでしょうか？

また、AI は人間と比べていくつかの利点があります。人間の細胞や神経細胞の数には理論的な上限があり、無制限に成長や拡大することはできませんが、電子計算機のようなシリコンベースのコンピュータは、計算チップを無制限に拡張およびアップグレードすることができます。NVIDIA の最新の A100 は 7nm プロセスを使用しており、TSMC は近々5nm 以下のプロセスを量産する予定です。つまり、将来の高性能 GPU は現在よりもさらに強力な計算能力を発揮するでしょう。

将来の GPT の潜在能力については、業界の意見が一致していませんが、現在のイテレーションの速度を考えると、2 年以内には生成モデルがビデオ作成のタスクを非常にうまく達成できると私は信じています。また、中国のいくつかの企業も関連製品の開発に取り組んでいますが、中国の文化産業への制約が長年存在していることを考慮すると、大規模な言語モデルの審査はどうでしょうか？熱点は動的であり、審査も動的ですが、モデルが自己審査を行うことができない場合、中国政府によって推進されることはありません。ビットコインや暗号通貨を見てみればわかります。