Snowflake Cortex AIでAnthropicのClaude 3.5 Sonnetを使用してRAGおよびエージェントベースのAIアプリを構築する
本日、Snowflakeは、Snowflake Cortex AIで利用できる初のAnthropicの基盤モデルとしてのClaude 3.5 Sonnetの一般提供を発表します。ユーザーは、Snowflakeのセキュリティ境界内で、使い慣れたSQL、Python、REST API(近日中)のインターフェイスを使用して、AnthropicのClaudeモデルファミリーで最もインテリジェントなモデルにアクセスできるようになりました。MIT Technology Review Insights poll 2024が示しているように、このネイティブな統合により、データチームとエンジニアリングチームは、データガバナンス、プライバシー、統合など、AI展開において最も一般的な課題に効率的に対処できるようになります。
Cortex AIでSonnet 3.5を使用する企業は、会話アシスタントと大規模な言語処理を通じて、データの可能性を最大限に引き出すことができます。Claudeの高度な言語モデルにより、開発者は、アドホック分析の実行、ドキュメントやその他のナレッジベースの回答の抽出、またはその他の複数ステップのワークフローの実行を行うエージェントの構築プロセスを、さらに強化できるようになります。ユーザーは、Snowflakeのセキュリティ境界内で、ガバナンスの確保された自社データに隣接したモデルを使用してアプリケーションを構築できます。使いやすさと信頼できる環境により、エンタープライズ対応AIの提供が迅速化されます。
Snowflake Cortex AI
Snowflakeは、構造化データと非構造化データに対応した、フルマネージドのLLM推論、ファインチューニング、RAGを含む統合機能とサービスのスイートであるCortex AIの提供を開始しました。これにより、ユーザーは構造化データと非構造化データを同時に迅速に分析できるようになり、AIアプリの構築が加速します。統合されたAIとデータのプラットフォームにより、多くの組織が数日で簡単にAIのコンセプトを現実に変換できるようになりました。あらゆる規模のあらゆる業界の組織が現在、テキスト要約や感情分析から強力なAIチャットボットの開発まで、さまざまなユースケースを達成しています。
Claude 3.5 Sonnet
Claude 3.5 Sonnetは、AIの安全性と調査の企業であるAnthropicの基盤モデルです。このモデルは、ソフトウェアエンジニアリング評価であるSWEベンチでの素晴らしい結果を含む幅広い評価において、競合モデルやClaude 3 Opusを上回り、インテリジェンスの業界水準を引き上げています。Claude 3.5 Sonnetは、大学院レベルの推論(GPQA)、学部レベルの知識(MMLU)、コーディング能力(HumanEval)について、優れた業界ベンチマークを記録しています。また、ニュアンス、ユーモア、複雑な指示の理解についても、パフォーマンスが向上しました。Claude 3.5 Sonnetは、推論機能と優れたパフォーマンスを兼ね備えているため、コンテキストに依存するカスタマーサポートや複数ステップのワークフローのオーケストレーションなどの複雑なタスクに最適です。
コンポーザブルCDPのリーダーである私たちにとって、生成AIはSnowflakeの顧客データに眠っている価値を簡単に抽出するための鍵です。Snowflake Cortex AIからAnthropicの業界をリードするClaude 3.5モデルにアクセスできるようになったことで、私たちはセキュアでガバナンスの効いた方法で共有のお客様のさらなる価値を素早く解放し、新たなエンパワメントを得ました。そして、このデータとAIの統合されたガバナンスのおかげでより迅速なアクションが可能になり、お客様へのAIを活用したサービスを大幅に強化できました」
Jason Davis氏
Cortex AIでのAnthropicのモデルの利用
Snowflake Cortex AIでは、LLMに簡単にアクセスできます。統合を管理する必要がなく、データとAIにわたってガバナンスが一貫しています。サポート対象リージョンからモデルにアクセスできます。また、クロスリージョン推論を有効にすることで、その他のリージョンからもアクセスが可能になります。
AI/ML StudioタブからアクセスできるCortex Playgroundで、モデルにすばやくアクセスし、プロンプトのテストやさまざまな推論構成の評価を行うことができます。また、モデルを比較し、さまざまな設定での応答のばらつきを分析し、Cortex Guardを使用して不適切または安全でない可能性のある応答をフィルタリングすることも可能になります。
SQLとPython
モデルをデータパイプラインまたはStreamlit in Snowflakeアプリに統合し、テーブル内の複数の行を処理できます。この統合には、SQLとPythonの両方でアクセス可能なCOMPLETE関数を使用できます。Snowflake Notebookから、またはカスタムクライアント用のOAuthを使用してご利用中のその他のIDEから、Claudeモデルにアクセスできます。
SELECT SNOWFLAKE.CORTEX.COMPLETE('claude-3-5-sonnet', CONCAT(‘Summarize this customer feedback in bullet points: <feedback>', content, '</feedback>');
curl -X POST \
"model": "claude-3-5-sonnet",
"messages": [
{
"content": "Summarize this customer feedback in bullet points: <feedback>”
}
],
"top_p": 0,
"temperature": 0
}' \
https://<account_identifier>.snowflakecomputing.com/api/v2/cortex/inference:complete
入門:RAGベースのドキュメント検索アプリの構築
Cortex AIでClaude 3.5 Sonnetを使用すると、Streamlit(Pythonでのフロントエンド開発)やCortex Search(埋め込み生成、ベクトル管理、ハイブリッド検索が統合されたRAGエンジン)などの他の機能を使用して、データと一緒にアプリを簡単に構築できます。
AnthropicとSnowflakeの今後
Cortex AIでClaudeが利用可能になったことにより、Snowflake Intelligence(近日中にプライベートプレビュー開始)やCortex Analyst(パブリックプレビュー中)などのSnowflakeのエージェント型AI製品においても、Claudeを主要なLLMの一つとして利用する予定です。詳細については、今後改めてお知らせします。
Claudeの業界をリードする精度と広範なコンテキストウィンドウにより、企業は自社のデータ全体にわたってより信頼性の高い正確な応答を提供する、ミッションクリティカルなAIアプリを確実に構築できるようになります。AIデータクラウドでClaude Sonnetを使用してアプリケーションを構築し、私たちにぜひお知らせください。
Snowflakeの生成AIと構築可能なユースケースの詳細については、1月22日開催のGen AI Dayをご覧ください。
注:このページには、Snowflakeが将来提供する製品に関する記述を含め、将来の見通しに関する記述が含まれていますが、これはいかなる製品の提供も約束するものではありません。実際の成果や提供物は異なる可能性があり、既知および未知のリスクおよび不確実性の影響を受けます。詳細については、最新の四半期報告書(10-Q)をご覧ください。