Kaggleではじめる大規模言語モデル入門―自然言語処理 実践プログラミング [単行本]

Kaggleではじめる大規模言語モデル入門―自然言語処理 実践プログラミング の 商品概要

• 要旨（「BOOK」データベースより）

  トップＫａｇｇｌｅｒたちはスコアを削り出すために、何を試し、何を捨て、なぜその手法を選んだのか。圧巻の情報量で唯一無二の価値を誇る決定版！

• 目次（「BOOK」データベースより）

  基礎編（自然言語処理の基礎；データサイエンスコンペティションの基礎；「ａｔｍａＣｕｐ　＃１７」に挑戦；大規模言語モデルの性能改善；大規模言語モデルの軽量化・高速化・省メモリ化）
  応用編（Ｊｉｇｓａｗ　Ｕｎｉｎｔｅｎｄｅｄ　Ｂｉａｓ　ｉｎ　Ｔｏｘｉｃｉｔｙ　Ｃｌａｓｓｉｆｉｃａｔｉｏｎ；ＣｏｍｍｏｎＬｉｔ‐Ｅｖａｌｕａｔｅ　Ｓｔｕｄｅｎｔ　Ｓｕｍｍａｒｉｅｓ；Ｋａｇｇｌｅ‐ＬＬＭ　Ｓｃｉｅｎｃｅ　Ｅｘａｍ；Ｂｅｎｇａｌｉ．ＡＩ　Ｓｐｅｅｃｈ　Ｒｅｃｏｇｎｉｔｉｏｎ；Ｔｈｅ　Ｌｅａｒｎｉｎｇ　Ａｇｅｎｃｙ　Ｌａｂ‐ＰＩＩ　Ｄａｔａ　Ｄｅｔｅｃｔｉｏｎ；Ｅｅｄｉ‐Ｍｉｎｉｎｇ　Ｍｉｓｃｏｎｃｅｐｔｉｏｎｓ　ｉｎ　Ｍａｔｈｅｍａｔｉｃｓ；ＷＳＤＭ　Ｃｕｐ‐Ｍｕｌｔｉｌｉｎｇｕａｌ　Ｃｈａｔｂｏｔ　Ａｒｅｎａ；ＡＩ　Ｍａｔｈｅｍａｔｉｃａｌ　Ｏｌｙｍｐｉａｄ‐Ｐｒｏｇｒｅｓｓ　Ｐｒｉｚｅ　２）

• 出版社からのコメント

  大規模言語モデルの基本的な使い方から、性能を底上げする応用的な使い方、実践的な暗黙知までを幅広く解説。秋葉拓哉氏推薦！

• 内容紹介

  【推薦の言葉】
  
  あなたのLLMスキル、「実戦」で通用しますか？
  ファインチューニング、RAG、量子化、モデルマージ……
  知識や理論を知っているだけでは、性能を引き出すことはできません。
  
  トップKagglerたちはスコアを削り出すために、
  何を試し、何を捨て、なぜその手法を選んだのか。
  課題解決のための「本物」の技術を身につけられる一冊です。
  
  ――秋葉拓哉（Sakana AI Staff Research Scientist）
  
  
  従来のKaggle関連書籍では、十分に取り扱うことができずにいたテキストデータを扱うコンペティション（NLPコンペ）に焦点を当てた初の書籍です。注目が集まっている大規模言語モデルに関する内容をふんだんに盛り込み、基本的な使い方から、性能を底上げする応用的な使い方までを幅広く解説しています。
  
  ・実践的な課題解決の場で得られた知見をもとに内容を構成し、教科書的な書籍とは異なる実用的な視点を提供。コンペ参加者に限らず、大規模言語モデルに関心を持つエンジニアや研究者にとっても有益！
  
  ・基礎編では、基礎知識のみにとどめず、大規模言語モデルの性能をさらに引き出すための、実践的な暗黙知や勘所などのウラ側も詳しく解説。コンペの上位スコアを追体験できるサンプルコードも提供。
  
  ・応用編では、多彩な8つのKaggleコンペを題材に、概要・データ構造・評価指標を整理し、ベースラインとして公開されている手法および上位解法を紹介。
  
  【編著者】
  高野海斗（主に1、3章）／齋藤慎一朗（主に4、5、10章）／石原祥太郎（主に2章と全体の編集）
  
  【応用編の寄稿者】
  坂見耕輔さん（6章）／中真人さん（7章）／郭林升さん（8章）／三好拓志さん（9章）／村上直輝さん（11章）／洪立航さん（12章）／吉原浩之さん（13章）／井ノ上雄一さん（13章）／山口大器さん（13章）
  
  【サポートサイト】
  サンプルコード・参考文献・正誤表・編著者および寄稿者のプロフィール一覧を掲載します。
  https://github.com/sinchir0/kaggle_llm_book/

• 著者紹介（「BOOK著者紹介情報」より）（本データはこの書籍が刊行された当時に掲載されていたものです）

  高野 海斗(タカノ カイト)
  Ｋａｇｇｌｅ　Ｍａｓｔｅｒ。資産運用会社で自然言語処理技術を活用した投資戦略の開発や業務効率化ツールの開発を担当。Ｋａｇｇｌｅでは「ＬＬＭ‐Ｄｅｔｅｃｔ　ＡＩ　Ｇｅｎｅｒａｔｅｄ　Ｔｅｘｔ」コンペで単独で金メダルを獲得したほか、さまざまなコンペでメダルを獲得。博士（理工学）。大阪公立大学客員研究員。人工知能学会企画委員（コンペ担当）
  
  齋藤 慎一朗(サイトウ シンイチロウ)
  Ｋａｇｇｌｅ　Ｍａｓｔｅｒ。Ｓａｎｓａｎ株式会社研究開発部シニアリサーチャー。業務ではファインチューニングしたＬＬＭを活用したプロダクト改善に従事。Ｋａｇｇｌｅでは「ＭＡＰ‐Ｃｈａｒｔｉｎｇ　Ｓｔｕｄｅｎｔ　Ｍａｔｈ　Ｍｉｓｕｎｄｅｒｓｔａｎｄｉｎｇｓ」コンペで金メダルを獲得したほか「Ｔｈｅ　Ｌｅａｒｎｉｎｇ　Ａｇｅｎｃｙ　Ｌａｂ‐ＰＩＩ　Ｄａｔａ　Ｄｅｔｅｃｔｉｏｎ」コンペや「ＬＭＳＹＳ‐Ｃｈａｔｂｏｔ　Ａｒｅｎａ　Ｈｕｍａｎ　Ｐｒｅｆｅｒｅｎｃｅ　Ｐｒｅｄｉｃｔｉｏｎｓ」コンペにて銀メダルを獲得。ＬＬＭの技術記事を多く投稿。Ｋａｇｇｌｅ　Ｃｏｍｐｅｔｉｔｉｏｎｓ　ＭａｓｔｅｒおよびＮｏｔｅｂｏｏｋｓ　Ｍａｓｔｅｒ
  
  石原 祥太郎(イシハラ ショウタロウ)
  Ｋａｇｇｌｅ　Ｍａｓｔｅｒ。株式会社日本経済新聞社でＬＬＭの開発や利活用を推進。Ｋａｇｇｌｅでは「ＰｅｔＦｉｎｄｅｒ．ｍｙ　Ａｄｏｐｔｉｏｎ　Ｐｒｅｄｉｃｔｉｏｎ」コンペの優勝をはじめ、Ｋａｇｇｌｅ　Ｄａｙｓ　Ｔｏｋｙｏでのコンペ開催、「Ｋａｇｇｌｅ　Ｄａｙｓ　Ｃｈａｍｐｉｏｎｓｈｉｐ　Ｆｉｎａｌ　２０２２」進出など、幅広い経験を持つ。２０１９年から「Ｗｅｅｋｌｙ　Ｋａｇｇｌｅ　Ｎｅｗｓ」を配信している。人工知能学会企画委員（コンペ担当）、Ｇｏｏｇｌｅ　Ｄｅｖｅｌｏｐｅｒ　Ｅｘｐｅｒｔ（ＡＩ、Ｋａｇｇｌｅ）

• 著者について

  高野 海斗 (タカノ カイト)
  高野　海斗　たかの　かいと
  
  Kaggle Master。主に1、3章を執筆。資産運用会社で自然言語処理技術を活用した投資戦略の開発や業務効率化ツールの開発を担当。2023年に開催された「LLM - Detect AI Generated Text」コンペで単独で金メダルを獲得したほか、さまざまなコンペでメダルを獲得。共著に『自然言語処理の導入と活用事例』。博士（理工学）。大阪公立大学客員研究員。人工知能学会企画委員（コンペ担当）。
  
  齋藤 慎一朗 (サイトウ シンイチロウ)
  齋藤　慎一朗　さいとう　しんいちろう
  
  Kaggle Master。主に4、5、10章を執筆。Sansan株式会社研究開発部シニアリサーチャー。業務ではファインチューニングしたLLMを活用したプロダクト改善に従事。Kaggleでは「MAP - Charting Student Math Misunderstandings」コンペで金メダルを獲得したほか「The Learning Agency Lab - PII Data Detection」コンペや「LMSYS - Chatbot Arena Human Preference Predictions」コンペにて銀メダルを獲得。LLMの技術記事を多く投稿。Kaggle Competitions MasterおよびNotebooks Master。共著に『Polars とpandas で学ぶデータ処理アイデアレシピ55』。
  
  石原 祥太郎 (イシハラ ショウタロウ)
  石原　祥太郎　いしはら　しょうたろう
  
  Kaggle Master。主に2章の執筆と全体の編集を担当。株式会社日本経済新聞社でLLMの開発や利活用を推進。Kaggleでは「PetFinder.my Adoption Prediction」コンペの優勝をはじめ、Kaggle Days Tokyoでのコンペ開催、「Kaggle Days Championship Final 2022」進出など、幅広い経験を持つ。共著に『PythonではじめるKaggle スタートブック』『Kaggleに挑む深層学習プログラミングの極意』『事例でわかるMLOps』、訳書に『Kaggle Grandmasterに学ぶ機械学習実践アプローチ』。2019年から「Weekly Kaggle News」を配信している。人工知能学会企画委員（コンペ担当）、Google Developer Expert（AI、Kaggle）。

Kaggleではじめる大規模言語モデル入門―自然言語処理 実践プログラミング の商品スペック