BrainDead Worldさんのサイトより
https://nofia.net/?p=39515
＜転載開始＞

報道では日本経済新聞の「アンソロピック研究者、AI競争の停止求め辞職　「開発企業は無責任」」などにあります。以下はその、ジェイコブ・コクソン氏の X への投稿です。

Jacob Coxon

私は今日、Anthropicを辞めました。私は過去3年間、OpenAIとAnthropicの両方で事前訓練研究を行ってきました。どちらの会社も責任を持って行動していません。彼らは自己改善型超知能に向かってまっしぐらに突き進み、私たちの命を賭け事にしています。以下にさらに詳しい考えを記します。

この技術の力を過小評価しないでください。これらはまもなく、どんなものでもハッキングし、どんな分野も一夜にして革命化し、本物の力と資源を手に入れる超人的なシステムになるでしょう。私たちはこれらの各分野における進歩をすべて目撃してきましたが、その進歩は決して鈍化していません。

AIを構築している人々は、それが今後10年以内に我々全員を殺す可能性があると本気で信じています。これはマーケティングの誇張ではありません。むしろ、多くの幹部や上級研究者は、報道で慎重な言い回しを使いますが、プライベートでは同じ人々が恐怖を口にしているのを聞きます。他のどの人間の活動も、このレベルの危険をもたらしません。

一般的な反応は「もし彼らが本当にこれを信じているなら、なぜまだそれを作り続けているのか？」です。OpenAIでは、多くの人が文明の賭けの重大さを深く内面化していません。Anthropicでは、その賭けはよく理解されていますが、彼らは最初に到達するための競争に縛られています – 他の誰も責任を持って行動しないと信じているので、自分たちでやらなければならないのです、たとえリスクがあっても。

このレースを受け入れ、「エンドゲーム」に突入することは、傲慢な賭けであり、私企業がSlackから発動すべきものではない。整列をスピードランしようと試みるには、より良い軌道が存在しないという並外れた確信が必要でしょう。

もしあなたが研究室の研究者なら、次の数年間が実際にどのような感覚になるのかを真剣に考えてみてください。超知的な強化学習の実行を開始する際に、その心の仕組みについて厳密な理解を持たずに進めるつもりですか？「どうせ起こるのだから」と頭を下げて進めるべきか、それともこの瞬間を利用して異なる条件を求めるべきか？



＜転載終了＞