AIアルゴリズムからAIセーフティへ―生成AIとLLM [単行本]

AIアルゴリズムからAIセーフティへ―生成AIとLLM の 商品概要

• 要旨（「BOOK」データベースより）

  プライバシーやセキュリティ、倫理面の重要さを強調しながら、さまざまな観点から、問題を繰り返し取り上げることで、人工知能（ＡＩ）と機械学習（ＭＬ）の本質について学ぶことができる。ＬＬＭ（大規模言語モデル）の社会での利活用には、透明性・信頼性の確保が必要である。モデルの高度化に伴い、安全性の配慮がより重要となり、本書では、これらの複雑な問題を包括的でわかりやすい分析と概要で検証している。現実の問題として顕在化していない新しい課題もあり、どのような問題が起こり得るかを、わかりやすい逸話を通して説明することで、新しい課題でも身近に感じられる。

• 目次

  1章　人工知能と機械学習の歴史
  エヴァの物語 / 起　源 / 人工知能の発展 / AI とML の理解 [MLアルゴリズムの比較 / アルゴリズム選択時の問題点 / ML アルゴリズムの応用例 / AI とML アルゴリズムのユースケース / 富の創造と世界的な課題の解決 / AI とML の倫理的課題 / プライバシーとセキュリティの課題 / サイバーセキュリティにおけるAI とML / AI とML から生じるサイバーリスク] / エヴァの物語のおわりに / 要　約 / 腕だめし
  
  2章　AI とML の技術と実現の基礎
  おもな技術とアルゴリズム [教師あり学習 / 教師なし学習 (クラスタリング / 主成分分析 / 相関ルール・マイニング) / 深層学習 (畳み込みニューラルネットワーク / リカレントニューラルネットワーク / 敵対的生成ネットワーク) / 強化学習 (Q学習 / 深層Q学習 / ポリシー勾配法) ] / ChatGPT の機能と応用 [自然言語生成 / 音声認識 / 仮想エージェント / 意思決定マネジメント / バイオメトリクス / 機械学習とピアツーピアネットワークの統合 / 深層学習プラットフォーム / ロボティック・プロセス・オートメーション / 人工知能向きハードウェア / AI 最適化ハードウェアの能力と効果 / ビジネスを変革する10技術] / AI の二つのカテゴリー / 現実世界の課題への取組み / 社会的倫理的意味の再考 / 将来動向と新たな展開 / 要　約 / 腕だめし
  
  3章　生成AI と大規模言語モデル
  生成AI と大規模言語モデル入門 [オマールの個人的な話 / 生成AI について / 敵対的生成ネットワーク (生成器と識別器の零和ゲーム) / GAN の応用 / GAN 訓練の課題 / GAN のツールとライブラリ (例3-1　GAN の基本的な例) / 変分オートエンコーダー (例3-2　VAE の基本的な例) / 自己回帰モデル / 制限ボルツマンマシン (例3-3　Python を用いたRBM の構築と訓練) / 正規化フロー] / 大規模言語モデル：自然言語処理の革命 [トランスフォーマー・アーキテクチャ (トランスフォーマー・アーキテクチャの文献) / OpenAI のGPT-4 とその後 (ハルシネーションとは何か？) / プロンプト・エンジニアリング] / Hugging Face [自然言語処理の世界への貢献] / 自律型AI アプリケーションに向けて [Auto-GPT / 責任と限界] / 要　約 / 腕だめし / 追加情報
  
  4章　AI とML セキュリティの基礎
  AI セキュリティの必要性 / 敵対的攻撃 [敵対的攻撃の実例 / 敵対的攻撃の重要性] / データ毒化攻撃 [(データ毒化攻撃の例) / データ毒化攻撃の方法 / データ毒化攻撃の実例] / LLM のOWASP トップテン [プロンプトインジェクション攻撃 (例4-1　プロンプトインジェクトの例) / 安全でない出力の取扱い / 訓練データの毒化 / モデルDoS / サプライチェーン脆弱性 / 機密情報の漏えい / 安全でないプラグイン / 過剰な代行 / 過度の依存 / モデル窃盗 (例4-2　モデル窃盗攻撃の高レベル概念実証の例) / モデル窃盗攻撃への対抗策] / メンバーシップ推論攻撃 [(例4-3　必要モジュールとデータセットのロード / 例4-4　CNN モデルの定義 / 例4-5　対象モデルの訓練 / 例4-6　影のモデルの訓練 / 例4-7　メンバーシップ推論攻撃の実行) /メンバーシップ推論攻撃の実際例] / 回避攻撃 (例4-8　ライブラリのインポートと事前訓練済みモデルのロード / 例4-9　MNIST データセットのロード / 例4-10　FGSM 攻撃関数の定義 / 例4-11　攻撃関数の使用 / 例4-12　異なるε値でのテスト関数よび出し) / モデル反転攻撃 [モデル反転攻撃の実際例 / モデル反転攻撃の緩和] / バックドア攻撃 / 防御策の模索 / 要　約 / 腕だめし / 追加情報
  
  5章　AI システムのハッキング
  FakeMedAI 社のハッキング / MITRE のATLAS [ATLASの戦術と手法 / ATLAS ナビゲーター] / AI とML 攻撃の戦術と手法 [偵察 / リソース開発 / 最初のアクセス (AI 部品表) / AI やML モデルへのアクセス / 実行 / 持続 / 防御回避 / 発見 / 収集 / AI およびML の攻撃準備 / 流出 / 影響] / プロンプトインジェクションの悪用 / AI モデルのレッドチーミング / 要　約 / 腕だめし
  
  6章　システムとインフラのセキュリティ
  AI システムの脆弱性とリスクならびに潜在的影響 [ネットワークのセキュリティ脆弱性 / 物理的なセキュリティ脆弱性 / システムのセキュリティ脆弱性 / ソフトウェア部品表とパッチ管理 / 脆弱性悪用可能性の交換形式 (例6-1　CSAF VEX のJSON 文書)] / AI 部品表 [AI BOM の重要な役割 / AI BOM のおもな要素] / データのセキュリティ脆弱性 / クラウドのセキュリティ脆弱性 [アクセス制御の誤設定 / 弱い認証方法 / 安全でないAPI / データの露出と漏えい / 安全でない統合 / サプライチェーン攻撃 / アカウントの乗っ取り / クラウドメタデータの改ざん] / AI システムのセキュアデザイン原則 [セキュアAI モデル開発と導入の原則 / 安全なAI インフラデザイン] / AI モデルセキュリティ [攻撃からの保護 / 安全なモデル訓練と評価] / AI システムのインフラセキュリティ [AI データストレージと計算処理システムの安全 / データの匿名加工手法 (例6-2　k-匿名前のデータセット / 例6-3　k-匿名（2-匿名性）のデータセット / 例6-4　2-匿名だが l-多様性でないデータセット / 例6-5　l-多様性の例 / 例6-6　人と病気の有無の簡易データベース / 例6-7　差分プライバシーのコードの簡単な例) / 定期的な監査とネットワークセキュリティ対策] / AI システムの脅威検知とインシデント対応 [AI システムのインシデント対応戦略 / AI システム侵害でのフォレンジック調査] / AI システムに関するほかのセキュリティ手法 / 要　約 / 腕だめし / 追加情報
  
  7章　プライバシーと倫理
  AI の利点と倫理面リスクやプライバシー懸念 / プライバシーと倫理の重要性 / AI とChatGPTにおけるプライバシーの懸念 / AI アルゴリズムにおけるデータの収集と保存 / AI とChatGPT のモラル・タペストリー [公平性の糸：アルゴリズム・バイアスを解明 / 運命を紡ぐ：人間の意思決定と自律性への影響 / 影を操る：プライバシー保護と倫理最前線] / 差分プライバシーと連合学習 / 公平性，多様性，人間による制御 / プライバシー漏えい事例と架空の物語 [将来のAIによる架空の物語 (架空の物語1：日常生活とプラバシー漏えい /架空の物語2：医療におけるプライバシー / 架空の物語3：金融分野でのプラバシー漏えい / 架空の物語4：スマートシティでのAIと個人)] / 要　約 / 腕だめし
  
  8章　AI システムの法規制コンプライアンス
  法規制の状況 / AI 法規制とデータ保護法 / 対話型AI における知的財産権問題 [AI アルゴリズムの特許性 / AI 生成コンテンツの著作権保護 / AI システムの商標保護 / AI 開発における営業秘密保護] / AI 時代の賠償責任とアカウンタビリティ / 効果的なガバナンスとリスク管理の戦略 / AI における国際協力と標準化 / AI コンプライアンスの将来動向と展望 / オックスフォードの架空の物語 / 要　約 / 腕だめし
  
  付録A　腕だめしの解答
  
  索　引

• 内容紹介

  プライバシーやセキュリティ、倫理面の重要さを強調し、さまざまな観点から、この問題を繰り返し取り上げている。現実の問題として顕在化していない新しい課題もある。どのような問題が起こり得るかを、わかりやすい逸話を通して説明していて、新しい課題が身近に感じられるように工夫している。また、同じ技術キーワードを、章によって異なる観点から説明し、読者の皆さんが自身の興味に従って、どの章からも読み始められる”ハンドブック”のような書籍である。
  
  最新の学術論文やインターネット上の専門的なブログを参照するしか方法がなかった、AIシステムの品質やセキュリティ面の対策あるいはAIセーフティといった社会的な観点からの、生成AIやLLMの特徴を、知ることができる内容となっている。
  当該分野の全体像を鳥瞰し、さらに専門情報を調べて読み解く羅針盤の役割を果たすものである。

• 著者紹介（「BOOK著者紹介情報」より）（本データはこの書籍が刊行された当時に掲載されていたものです）

  中島 震(ナカジマ シン)
  国立情報学研究所名誉教授
  
  サントス,オマー(サントス,オマー／Santos,Omar)
  サイバーセキュリティのオピニオンリーダーであり、重要インフラのセキュリティを強化するべく、業界イニシアチブを推進することに情熱を注いでいる。オマールは、ＤＥＦ　ＣＯＮ　Ｒｅｄ　Ｔｅａｍ　Ｖｉｌｌａｇｅのリーダー、Ｃｏｍｍｏｎ　Ｓｅｃｕｒｉｔｙ　Ａｄｖｉｓｏｒｙ　Ｆｒａｍｅｗｏｒｋ（ＣＳＡＦ）技術委員会の委員長、ＯｐｅｎＥｏＸの創設者、ＯＡＳＩＳ　Ｏｐｅｎ　ｓｔａｎｄａｒｄｓ　ｏｒｇａｎｉｚａｔｉｏｎのボードメンバーである。また、数多くの組織と連携している
  
  ラダニエフ,ペタール(ラダニエフ,ペタール／Radanliev,Petar)
  オックスフォード大学コンピュータサイエンス学科のポスドク研究員、２０１４年にウェールズ大学で博士号を取得。インペリアル・カレッジ・ロンドン、ケンブリッジ大学、マサチューセッツ工科大学、オックスフォード大学工学部で博士号取得後に研究を続け、現職のコンピュータサイエンス学科に移る。現在、人工知能、サイバーセキュリティ、量子コンピューティング、ブロックチェーン技術を中心に研究している。学術分野に入る前は、当時世界最大の銀行だったＲＢＳでサイバーセキュリティ・マネージャーとして１０年、国防省で主任侵入テスターとして５年を過ごした

AIアルゴリズムからAIセーフティへ―生成AIとLLM の商品スペック