Geoffrey Hintonが技術について「口笛を吹かなければならない」と決めた理由

ニューヨーク（CNN） 「として知られているジェフリー・ヒントンAIの貸付け金「彼はそれがどれほどスマートになっているかについて心配した後、彼が開発を助けた技術について「笛を吹かなければならない」と決めたと彼は火曜日CNNに語った。

ヒントンは、火曜日のインタビューでCNNのジェイク・タッパーとのインタビューで、「私はこのようなものが私たちよりもスマートになっていることを突然悟った科学者に過ぎない」と述べた。 「私は一種の口笛を吹き、私たちがこれらのことが私たちを制御するのを防ぐ方法を真剣に心配しなければならないと言いたいです」。

ニューラルネットワークに対するヒントンの先駆的な仕事は、今日の多くの製品をサポートする人工知能システムを形成しました。 月曜日に、彼は技術の懸念が大きくなることについて公に話すために10年間働いていたGoogleで彼の役割を残して見出しを飾りました。

月曜日のインタビューで ニューヨークタイムズ彼の動きを初めて報告したヒントンは、AIが雇用を取り除き、多くの人々が「もはや何が真実なのか分からない」世界を作る可能性について懸念すると述べた。 彼はまた、彼と他の人が予想していたよりもはるかに驚くべき発展率を指摘しました。

「もしそれが私たちよりはるかに賢くなれば、操作にはとても上手になるでしょう。なぜなら、私たちからそれを学んだからです。 。 火曜日に。

「プログラムする方法を知っているので、私たちが設定した制限を迂回する方法を理解します。必要に応じて人々を操縦する方法を理解します。」

AIに対する懸念を表明した技術リーダーは、ヒントンだけではない。 コミュニティの複数のメンバーが署名しました。 3月の手紙 人工知能研究室は、「社会と人類に対する深刻なリスク」の理由で、最低6ヶ月間で最も強力なAIシステムの教育を中止するように促しました。

その手紙、 出版 非営利団体 Future of Life Institute サポート Elon MuskのOpenAIリリースから2週間後 発表 GPT-4は、ウイルスチャットボットChatGPTをサポートする技術のはるかに強力なバージョンです。 初期のテストと会社のデモでは、GPT-4は訴訟草案を作成し、標準化されたテストに合格し、手描きのスケッチで動作するWebサイトを構築するために使用されました。

書簡署名者の一人であるアップル共同創業者のスティーブ・ウォズニアックは火曜日、「CNNディスモーニング」に出演して誤った情報を広げる可能性についての懸念を表明した。

ウォズニアックはCNNとのインタビューで「あなたをだまそうとする人にとっては、欺瞞はずっと簡単だ」と述べた。 「私たちは、その点で実際に何の変化も起こらず、私たちが持っている法がそれを処理すると仮定しているだけです。」

Wozniakはまた、「ある種の」規制が必要であると述べました。

ヒントンはCNNに請願書に署名しなかったと述べた。 「私たちは進歩を止めることができるとは思わない」と彼は言った。 「米国の人々が中断した場合、中国の人々も中断しないため、AIの作業を中断しなければならないという請願書に署名しませんでした。」

しかし、代わりにどうすべきかに対する明確な答えがないと告白した。

HintonはTapperに、「私たちがこの問題を解決できるかどうかは確信していません」と言いました。 「私たちは問題を解決する方法について考えるのに大きな努力をしなければならないと思います。私は現在解決策がありません。」