AWS re:Invent 2024 現地レポート Day3
はじめに
本記事ではAWS re:Invent 2024のDay3の現地の様子について、参加したセッションの内容や最新情報をご紹介します。
1日のスケジュール
12/4のDay3では1つのキーノート、３つのセッションに参加しました。
KEY003 | Dr. Swami Sivasubramanian Keynote
Day3のスタートは8:30開始のkeynoteから。
6:30頃ホテルを出発しました。
朝食はStarbucksが無料との情報を手に入れたので、早速行ってみました。
コーヒーとターキーエッグマフィンを注文しました。
昨日ほどではありませんが、混雑していました。
今日はVice president of AI and Data の Dr.SwamiによるAI/ML関連の発表でした。
こちらの方ですね。(遠すぎて写真が撮れませんでした。。)
今回も多くのアップデートが紹介されましたが、厳選してお伝えします。
Amazon Bedrock announces preview of prompt caching
まずはBedrockがプロンプトのキャッシング対応をサポートします。(プレビュー)
これにより、何度も使うプロンプトや回答を引き出すための情報を繰り返し渡す必要がなくなり、結果として1回あたりの呼び出しコストを削減することができます。
【詳細】Amazon Bedrock announces preview of prompt caching
Amazon Bedrock Guardrails supports multimodal toxicity detection for image content (Preview)
こちらはGuardrailsの新機能で、ユーザーからの不適切な画像の入力、不適切な回答の出力を防止する機能です。トピックを指定して、そのトピックに対しては回答しない設定なども可能です。例：暴力、ヘイトなど
【詳細】Amazon Bedrock Guardrails supports multimodal toxicity detection for image content (Preview)
Amazon Bedrock Data Automation now available in preview
こちらは文書、画像、ビデオ、音声などの非構造化コンテンツから任意の情報を抽出するサービスです。これまでのclaude. 3.5 sonnetでも画像分析や動画分析は工夫すればできていましたが、精度が今一つでした。今後こちらの検証も行います。
【詳細】Data automation
keynoteの内容はこれくらいにして、以降参加したセッションの情報です。
MFG201 | Empowering the next-generation industrial operator with generative AI
こちらはGeorgia-Pacificという再販事業や商品のパッケージングなどをされている製造業の会社で、AWSの支援を受けながら内製化に成功した事例紹介でした。
こちらの会社は特別にAmazon Novaを先行で使用して成功したと話がありました。
工場の機械には数千のセンサー(振動や温度など)が設置されており、それらの情報を生成AIが内部ドキュメントの情報と照らし合わせて診断結果(根本原因)と対応策を提案するソリューションを構築しました。
このサービスを作るにあたり、大量のドキュメント(故障時対応など)を使用したようですが、機械によってはドキュメントが存在しないものがあり1から作り直したようです。
ドキュメントを手入力で作成するには膨大な時間がかかることから、作業者にインタビューを行い、録音した音声を文字起こし⇨Amazon Novaにドキュメントを生成させたようです。
テンプレートを事前に与えることで、自然なドキュメント生成に成功。
はっきりと説明されませんでしたが、上記写真はテンプレートで実際に生成したドキュメントではなさそうです。このあたりもどのレベルで生成可能か？確認が必要です。
以下アーキテクチャ図
AIM375 | Accelerate gen AI & ML workflow innovation with Amazon SageMaker Studio
こちらはSageMaker Studio & パートナーのソリューションを活用して素早くモデルの検証、デプロイ、モニタリングをするという内容でした。
内容としてはこれ以上なく、あまり学ぶことはありませんでした。。
セッション自体1時間の予定が30分で終わってしまいました。
AIM395-NEW | [NEW LAUNCH] Amazon Nova understanding models
最後のセッションは、事前予約の際はNew Launchとして内容が公開されていなかったものです。
ラッキーなことにNovaのモデルについて詳細を解説するセッションでした！
やはり人気なセッションのようで、予約列も長蛇の列ができていました。
運良く一番前の席を取ることができました。
精度とコスパについてはclaude 3.5 Haiku(最新モデル)と比較しても同等か比較方法によっては上回るものもあると言っていました。
実際に何ができるのか？具体的な話も聞くことができました。
まずは図を分析して回答する例として、複雑なフロー図を読ませて分析・改善させることができるようです。
claudeのcomputer useのようなこともNovaでは出来るようです。
computer useについては以下を参照下さい。
Introducing computer use, a new Claude 3.5 Sonnet, and Claude 3.5 Haiku
EXPO&SWAG
最後にEXPOと今日ゲットしたSWAGについて。
隙間時間にEXPOを散策してみました。
deep racerは走っていませんでした。
SWAG
1日で一気に増えてしまいました！笑
MA-1はロゴも小さいので普段使いできそうです。
以上、「AWS re:Invent 2024 現地レポート Day3」でした！
明日はいよいよre:Invent 2024参加最終日です。
明日の「AWS re:Invent 2024 現地レポート Day4」もお楽しみに！
