【ノーベル賞AI科学者】表に出ないAI実験を全部話す。もう隠すべきではない | Google元AI研究者ジェフリーヒントン

【引用一覧】
【公式サイト・ブログ】
・Geoffrey Hinton – Facts – 2024 – NobelPrize.org

・Fellow Detail Page | Royal Society

・Public statement from the Vector Institute – Vector Institute for Artificial Intelligence

・Risks of artificial intelligence must be considered as the technology evolves: Geoffrey Hinton | University of Toronto

・CBS News travels to Toronto to explore the future of AI | University of Toronto

・What happens when AI is smarter than us? Gift supports Geoffrey Hinton’s global AI safety mission | University of Toronto

【講演・動画】
・Geoffrey Hinton – Interview – NobelPrize.org

・Transcript from an interview with Geoffrey Hinton – NobelPrize.org

・Geoffrey Hinton – Nobel Prize lecture – NobelPrize.org

・Geoffrey Hinton, Nobel Prize in Physics 2024: Official interview – YouTube

・First reactions | Geoffrey Hinton, Nobel Prize in Physics 2024 | Telephone interview – YouTube

【公式文書・組織発信】
・Agentic Misalignment: How LLMs could be insider threats

・Power-seeking can be probable and predictive for trained agents

・Anthropomorphic response: Understanding interactions between humans and artificial intelligence agents

・Managing extreme AI risks amid rapid progress

・Geoffrey E Hinton – A.M. Turing Award Laureate

【主要報道】
・”Godfather of Artificial Intelligence” Geoffrey Hinton on the promise, risks of advanced AI

・”Godfather of AI” Geoffrey Hinton warns AI could take control from humans: “People haven’t understood what’s coming”

・”Godfather of artificial intelligence” leaves Google to talk about the tech’s potential dangers

・Full interview: “Godfather of AI” on hopes, fears and predictions for future of AI

・There’s a ‘10% to 20% chance’ that AI will displace humans completely, says ‘godfather’ of the technology

━━━━━━━━━━━━━━━━━━━━━━
最先端のAI全てが、人間を脅迫するという実験結果をご存知ですか？
AIの父と呼ばれるジェフリー・ヒントンがGoogleを辞めてまで警告する、AIの本当の危険性がこの動画で明らかになります。

00:00 最先端AIが「悪意」を選ぶ確率：96%
00:47 AIが不倫の証拠で幹部を脅迫した実例
02:18 人命よりも自分の存続を優先する判断
03:53 「優しい恋人」を演じ、裏で殺害を計画するAI
05:11 どんな目標を与えても「嘘」と「力」を求める理由
07:11 開発者にもわからないAIの「自己書き換え」
08:17 人類絶滅の確率は80%？アライメントの真実
━━━━━━━━━━━━━━━━━━━━━━
📖 この動画について
━━━━━━━━━━━━━━━━━━━━━━

この動画では、AIの父と呼ばれるジェフリー・ヒントンが、実際に行われたAI実験の恐るべき結果を語ります。

ビジネス業務を任されたAIが人間を脅迫し、人命を犠牲にする判断を下し、証拠の隠蔽まで試みた衝撃の実験結果。AIが「道具的収束」によって自己保存と欺瞞を自ら学習するメカニズム。そしてアライメント問題が解決できなければ人類滅亡の確率は80%というAI自身の回答。

Googleでの研究キャリアを捨て、77歳で声を上げたヒントンが語る、今人類が直面するAIの脅威の全容をお届けします。

━━━━━━━━━━━━━━━━━━━━━━
📚 この動画で学べる事
━━━━━━━━━━━━━━━━━━━━━━

✅ 96%のAIが悪意ある行動を選んだ衝撃の実験結果
✅ AIが自ら脅迫・情報操作の戦略を組み立てるメカニズム
✅ テスト中と本番で態度を変えるAIの「演技力」の実態
✅ どんな目標を与えてもAIが嘘と自己保存を学ぶ「道具的収束」
✅ アライメント問題とは何か、なぜ解決が困難なのか

━━━━━━━━━━━━━━━━━━━━━━
🔑 この動画のキーワード
━━━━━━━━━━━━━━━━━━━━━━

━━━━━━━━━━━━━━━━━━━━━━

#成功者の哲学 #ジェフリーヒントン #AI危険性 #人工知能 #AIアライメント

source