AWS re:Invent 2024 現地レポート Day4
はじめに
本記事ではAWS re:Invent 2024のDay4の現地の様子について、参加したセッションの内容や最新情報をご紹介します。帰国前最後の投稿になります。
1日のスケジュール
12/5のDay4では2つのセッションに参加しました。
[NEW LAUNCH] Introducing automated reasoning checks in Amazon Bedrock Guardrails AIM393-NEW
こちらはBedrockの新機能です。
まずは生成AIの現状と課題から。
Gartnerが行った最高情報責任者(CIO)に対する、生成AIのリスクを質問したアンケートではHallucinationが最も生成AI導入に対するリスクが高いと回答する割合が最も多く、発表していたプロダクトマネージャーもHallucinationのリスクを嫌って導入を躊躇う経営層を何度も見ていると話していました。
そのHallucinationを抑える手段として、今回の「automated reasoning checks in Amazon Bedrock Guardrails」が発表されました。
このセッションは今回のサービス開発のまでの流れを深掘りして説明していました。
まずは「そもそもAutomated Reasoningとは？」というお話から。
この内容だけでAWSのサイエンスチームが論文を出しているようなので、興味がある方はご覧ください。
https://www.amazon.science/blog/a-gentle-introduction-to-automated-reasoning
以下、claude 3.5 sonnetによる回答です。
Automated Reasoningとは、コンピュータが人間のような論理的思考を自動的に行う技術です。与えられた情報と規則に基づいて、新しい結論を導き出したり、問題を自動的に解決したりする仕組みのことを指します。例えば、「すべての犬は哺乳類である」「柴犬は犬である」という前提から、「柴犬は哺乳類である」という結論を自動的に導き出すような推論のプロセスです。人工知能、専門家システム、ロボット工学などの分野で重要な役割を果たしています。
要するに数学的に上記のような判定を行い、与えられたドキュメント、プロンプトをもとに生成AIが回答した内容が正しいか・正しくないか判定できるというものです。
こちらのautomated reasoningの技術自体はAWSの他のサービスにも幅広く使われているようです。
例えとしてS3のブロックパブリックアクセスが挙げられていました。
認証系のサービスには使われているようです。
ここからが実際にどのようなプロセスで進めるかの手順です。
Automated Reasoning policyの作成
以下のようにポリシーをアップロードすることで自動でポリシーが作成されます。(今後検証します。)
ルールと変数、変数のデータタイプなどが自動で作成されます。
以下一連のスライドです。
以下のように設定した項目に対して判定結果と説明文が出力されます。
判定結果がfalseになった場合、より具体的な質問(プロンプト)を要求したり、注釈をつけて回答する、生成AIから深掘りするような質問をさせるなど、ユーザーに分かりやすく伝える工夫が必要とのことです。
automated reasoning checks in Amazon Bedrock Guardrailsについては以上です。
Unlock the power of multimodal vision models with Amazon Bedrock AIM376
続いてBedrockにおけるマルチモーダルモデルの利用について。
こちらのセッションはBedrockの開発チーム責任者やNovaの開発担当者が出席して質問に答えるなど、4日間の中で最も濃密な時間でした！
こちらもそもそもマルチモーダルとは？というお話から。
テキストや画像、動画などを複数入力または出力するモデルをマルチモーダルモデルと言います。
以下はそれぞれの用途に応じて最適なモデルが示されています。
ここからがこれまでは実現が難しかったマルチモーダルのRAGです。
以下マルチモーダルのデザインパターンです。
面白いと思ったのが、画像自体もテキストとしてベクトルデータベースに格納する点です。
上記の流れ自体が、以前投稿した以下のBedrock Data Automationで簡素化されるとのことでした。今後の日本語対応に期待です。
以上、「AWS re:Invent 2024 現地レポート Day4」でした！
明日はついに日本に帰国です。
帰国後に振り返り編として投稿しますので、お楽しみに！
