IoTクラウド基盤アーキテクトの森⽥です。お客様のIoTサービスを実現するAWSアーキテクチャの検討、提案、構築を行っています。
2024年12月2日（月）からラスベガスで開催されている「AWS re:Invent 2024」に参加しています。
速報として、初日に参加した生成AIのワークショップについてレポートします。
タイトル：Implement RAG without compromising on digital sovereignty（HYB304）
- 登壇者：Aditya Lolla、Robert Belson
- 概要：Amazon Bedrock Agentsを使って、オンプレミス（自社施設内）のデータを活用しながら、より精度の高いAIシステムを構築する方法を学ぶ
ワークショップのアジェンダはこちらです。
生成AIを活用する際の課題は様々ありますが、今回のワークショップは、どのようにデータをセキュアかつプライベートに保つかに焦点を当てたものです。（下図の一番右）
AWSは、東京リージョンなどのリージョン単位で提供される形態だけではなく、AWS Local ZonesやAWS Outpostsなど、いわゆるパブリッククラウドとは異なる環境で利用できるものも用意されています。
今回のワークショップはLocal Zonesを使用して実施しました。（手順としてはOutpostsを利用したものも用意されていました）
ワークショップは前半と後半の二部で構成されています。
ハイブリッドデプロイメント
Bedrock Agentsを使用し、エージェントがAWSリージョン内で処理を行うか、Local Zones内で行うかを判断し呼び出します。Local Zones内ではBedrockが利用できないので、オープンソースのOllamaを使用したRAG環境を構築します。
ローカルデプロイメント
ローカルデプロイメントは、全ての処理がLocal Zones内のEC2で実行するように構成します。（時間の都合上、試すことはできませんでした。）
今回のワークショップで、初めてLocal Zonesを体験しました。Local Zonesの有効化はマネジメントコンソールから簡単に行うことができます。
有効化した後は、通常のリージョンのEC2と同じように構築できました。管理画面も同一のものなので、わかりやすい！
まとめ
re:Invent 2024の速報レポートとして、初日に参加したワークショップの内容を紹介しました。Local Zonesに初めて触れられ、知らないAWSサービスがたくさんあるなと改めて感じたセッションでした。生成AIも単体で使うだけでなく、他のAWSサービスと組み合わせるセッションがたくさんありそうなので、今後の発展に期待です。
Amazon Bedrock導入ソリューションについて、詳しくはこちら
Amazon Bedrock導入ソリューション
