シングルシンクタンク対。 「神のような」AI

デリック・ロバートソンの助けを借りて

数年前、Daniel Colsonはスタートアップ投資を受けていました。 OpenAI創設者Sam AltmanとBay Area技術分野の他のAI先駆者と肩を並べています。

現在、技術起業家は、ワシントンの政策立案者を募集することを目的としたシンクタンクを立ち上げ、一度の資金提供者を停止します。 Colsonはこれを次のように見ます。 最大のAI企業の最高の科学者たちは、人工知能を今日の最も先進的なモデルより10億倍強くし、5年以内に「神のようなもの」を作ることができると信じています。

これを防ぐための彼の提案は次のとおりです。 特定の処理能力を超えてコンピューティングクラスタを構築することを違法にし、AI会社が超高速AIシステムを構築するために必要な膨大なハードウェア供給を確保するのを防ぎます。 超知能AIを生産するのに必要なコンピューティングシステムの規模のために、Colsonはそのような努力が政府が監視し規制しやすくなると主張しています。

「私は科学実験が実行するには危険すぎると思います」と彼は言いました。

ワシントンの政策現場がAIに方向を変えながら、30歳のColsonは、今後の技術との戦いで宇宙の株式を見ている最も最近の人です。 しかし、彼の人工知能政策研究所は、新しい政策環境である投票への謙虚な貢献から始めようとしています。

先週のAIPIは 最初の調査1,000人の回答者によると、米国の有権者の72％がAIの発展を遅らせる措置を支持していることを発見しました。

コルソンは、AI政策に対する公衆世論調査の質が低下することを嘆いており、そのような世論調査が今後の立法闘争に先立ち、断固たる政府措置に賛成する方向に物語を転換する可能性があると信じていると述べた。

この目的のために、Colsonは技術起業家と政策専門家のリストを募集しました。

「AI安全は非常に過小調査されています」とSam Hammondは言いました。 AI安全研究員 AIPIアドバイザーとして登録。

コルソンはまた、言及されていない限り、アドバイザーからアドバイスを受けています。 アイフィのウェブサイト。 進歩的な世論調査員Sean McElwee、世論形成のために世論調査を使用する専門家 – 彼の関係で最もよく知られている人 バイデンホワイトハウス そして、Sam Bankman-Friedは後ろからColsonに助言しています。

ColsonのスポークスマンSam Raskinは、McElweeを「多くのアドバイザーの1人」と説明しました。 昨年、左派世論調査会社であるData for Progressから追い出されたMcElweeは、部分的に彼 Bankman-Fried ネクタイコメントリクエストに応答しませんでした。

AIの安全支持者が技術の急速な発展に直面するにつれて、Colsonは2018年に発足した非営利団体のRethink Prioritiesが最近数ヶ月にわたって招集した会議に参加し、同じ考えを持つ研究者と活動家の間で政策対応を策定しました。 Rethink Prioritiesは、技術の世界に広がっている公理主義哲学である効果的な利他主義と関連しています。

多くの効果的な利他主義者もAIの潜在的な存在リスクを心配していますが、Colsonはその動きから離れています。

彼は、2016年にオックスフォード大学で開かれた効果的な利他主義の集まりに参加し、Google DeepMindのCEOであるDemis Hassabisが、参加者に会社がAIの安全性を最優先事項としていると確信させるスピーチを行うことで、彼の不安を追跡しました。

「すべて [Effective Altruists] 観客はとても興奮して拍手をし始めました」とColsonは思い出しました。 「こんな、私の考えに彼は私たちの運動を選んだようだ」と思った記憶があります。

（ディープマインドスポークスマンは、ハサビスは「Googleディープマインドが人工知能の安全で責任ある配置をどれほど真剣に受け入れているかを常に声を上げてきた」と述べました。）

1年後、ColsonはAltmanとPeter Thielから投資を受けたStable Coin中心の暗号化スタートアップReserveを共同設立しました。 彼は現在、AIブームの基礎を築いていた多くの人と同じサークルでプレーしていることを発見しました。

しかし、コルソンはベイエリア技術の創設者としての経験 技術開発のためのAI科学者のビジョンは安全ではないという確信を彼に残しました。 OpenAIはコメントリクエストに応答しませんでした。

Colsonはまた、AI抑制に対する効果的な利他主義者のビジョンは、公共の安全を確保するための政府規制の可能性を無視しながら、技術的修正に焦点を当てすぎていると結論付けました。

それはAIPIのリリースに動機を与えたと彼は言った。 このグループの資金は、技術と金融の分野で少数の個人的な寄付者から来ましたが、Colsonは名前を明らかにすることを拒否しました。

AIPIは、より多くの世論調査に加えて、今秋のAI政策提案の分析を発表する計画だ。 コルソンは、今後18ヶ月が効果的な法案を通過させるための最高の時期だと思うと述べました。

AI企業の野心を達成するために必要なコンピューティングの産業規模のため、彼はコンピューティングクラスタが規制に焦点を当てた自然なボトルネックであると主張しています。 彼は、この措置がコンピュータの超知能の到来を約20年ほど未然に防ぐことができると推定しています。

彼は、議会がAIモデルをコンピュータが複雑な計算を実行できる速度の尺度である10から25番目のフロップに制限できると提案しました。 （比較すると、2019年に最先端のChatGPT-2は10から21フロップで訓練されたとColsonは言いました。）またはより良い方法は、上限を10から10倍低く設定することです。 20番目のフロップ。 「それは私が選ぶでしょう」

人口が減り、労働力が変化して 日本は、社会が動的で革新的に維持されるように、AIに頼っています。

自由主義性向のアメリカ企業研究所（American Enterprise Institute）のアナリストであるマイケル・ローゼン（Michael Rosen）は次のように報告しました。 今朝のブログ投稿 最近、日本を訪れ、AIが日本の急速な高齢化社会のために何ができるかについて、民間および公共部門の専門家にインタビューしました。 例えば、SoftBank Roboticsの一人の責任者は、RosenにAI「脳」をロボット本体と組み合わせる企業の努力について自慢した。

東京大学AI研究員の柳雄吉夫は、Rosenにロボットが「似たような体を共有することは…共感のための非常に重要な基盤」と主張し、彼の研究がAIが呼び起こす「非常に初期の原始道徳感覚」を探求する方法を説明しました。 。 そのような人間のようなAIツールの実際の配置で提起された倫理的考慮事項は、政策的対応を必要とします。 一部の西欧の反AI支持者の終末論的な考え方。 — デリック・ロバートソン

今日のデジタルアーキテクトが新しいプラットフォームを構築するにつれて 彼らは通常、昨日の間違いを繰り返さないことについて非常に声を上げます。 特に、Facebookのようなソーシャルメディアプラットフォームが引き起こす可能性のある意図しないダメージについては、さらにそうです。

しかし、それを心配する必要はないかもしれません。 広くて深い 新しい研究 同僚レビュージャーナルであるRoyal Society Open Scienceに先週発表された報告書によると、「ソーシャルメディアの世界的な普及が広範囲の心理的被害と関連しているという証拠はありません」

Matti VuorreとAndrew K. Przybylskiは、72カ国で11年間で約100万人のサンプルサイズを作成するために、会社のデータを使用してFacebookの使用を追跡し、ウェルネスに関するGallup World Pollのデータと一致させました。 彼らは、「彼らの幅広い採用が良いか悪いのか、心理的なこんにちはに影響を与えたことは明白でも必要もない」と結論付けた。

しかし、彼らは彼らの結果がSnapchatやTikTokのような他のプラットフォームにわたって一般化することはできません. 」 — デリック・ロバートソン