超知能AIをつくれば人類は絶滅する [単行本]

超知能AIをつくれば人類は絶滅する [単行本] の 商品概要

• 要旨（「BOOK」データベースより）

  どこの企業や国家によってであれ、ヒトの知能を凌駕する「超知能ＡＩ」がつくられたら、地球上のすべての人間が必ず死ぬ。ＬＬＭ（大規模言語モデル）がより高度な「大規模推論モデル」へと進化しつつあるいま、その時は確実に近づいている―。本書が提示するシナリオでは、数学の未解決問題を解くために開発されたＡＩ「セイブル」がウイルスをばら撒き、全人類の１０％を死滅させる。そして残りの９０％も一瞬で…。一体なぜ？最悪の結末を回避するために、私たちにできることとは？ＡＩ技術を核兵器などと同様の「人類絶滅リスク」として取り扱うべきという議論が近年なされるが、著者のエリーザー・ユドコウスキーはその源流にして極北に位置する。ピーター・ティールが多額を出資し、またサム・アルトマンにＯｐｅｎＡＩ創業の示唆を与えるも、いまや彼らと反目にいたった天才が圧倒的な練度で放つ、現代の黙示録。

• 目次（「BOOK」データベースより）

  序章　困難な予測と容易な予測
  第１部　非人間的な知性（人間の特殊能力；つくられるのではなく育てられる；欲することを学ぶ；訓練したとおりの結果は得られない；ＡＩのお気に入り；人類は敗北する）
  第２部　ある絶滅シナリオ（危険な認識；拡張；登頂；結末）
  第３部　困難に立ち向かう（呪われた問題；科学ではなく錬金術；「不安を煽りたくはない」；停止せよ；生きている限り希望はある）

• 内容紹介

  現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたＡＩが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？　ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！

• 著者紹介（「BOOK著者紹介情報」より）（本データはこの書籍が刊行された当時に掲載されていたものです）

  ユドコウスキー,エリーザー(ユドコウスキー,エリーザー／Yudkowsky,Eliezer)
  １９７９年生まれ。機械知能研究所（ＭＩＲＩ）の創設者。人工知能を人間の意図や価値観に整合させる「ＡＩアライメント」研究の草分け的存在であり、「フレンドリーＡＩ」概念の提唱などで知られる。高校や大学に通わず独力で学び、２０００年、ＭＩＲＩの前身となる「ＡＩのためのシンギュラリティ研究所」を創設（２０１３年に改称）。当初は人間の知能を超えるＡＩの実現を目指すが、まもなくそのリスクの重大さを認識するようになる。２００６年から２０１２年にかけてピーター・ティール、レイ・カーツワイルとともに「シンギュラリティサミット」を主催。人間の合理性やＡＩの安全性を主要なトピックとするオンラインフォーラムＬｅｓｓ　Ｗｒｏｎｇを２００９年に設立。２０１０年から２０１５年にかけて発表した「ハリー・ポッターと合理主義の方法」は異色のファン・フィクションとして絶大な人気を誇る。２０２３年、タイム誌「ＡＩ分野で最も影響力のある１００人」に選出
  
  ソアレス,ネイト(ソアレス,ネイト／Soares,Nate)
  １９８９年生まれ。ＭＩＲＩ所長。ジョージワシントン大学でコンピュータサイエンスと経済学を学んだ後、マイクロソフトやグーグルでのエンジニア職などを経て、２０１４年にＭＩＲＩに参画。２０２３年より現職
  
  櫻井 祐子(サクライ ユウコ)
  翻訳家。京都大学経済学部卒。大手都市銀行在籍中にオックスフォード大学大学院で経営学修士号を取得

超知能AIをつくれば人類は絶滅する [単行本] の商品スペック