Crie aplicações de IA baseadas em agentes e RAG com o Claude 3.5 Sonnet da Anthropic no Snowflake Cortex AI
Hoje, temos o prazer de anunciar o lançamento do Claude 3.5 Sonnet como o primeiro modelo de base de dados Anthropic disponível no Snowflake Cortex AI. Agora, os clientes podem acessar o modelo mais inteligente da família Claude, da Anthropic, usando interfaces familiares de API SQL, Python e REST (em breve), no perímetro de segurança do Snowflake. Essa integração nativa permite que as equipes de engenharia e dados enfrentem, com eficiência, alguns dos desafios mais comuns, segundo a pesquisa MIT Technology Review Insights 2024, no que se refere à implementação de inteligência artificial (IA), incluindo governança de dados, privacidade e integração.
Com o Sonnet 3.5 no Cortex AI, as empresas podem aproveitar ainda mais todo o potencial de seus dados por meio de assistentes de conversação e processamento de linguagem em grande escala. Os modelos avançados de linguagem Claude vão melhorar ainda mais a forma como os desenvolvedores podem criar agentes capazes de executar análises específicas de dados, extrair respostas de documentos e outras bases de conhecimento, bem como executar outros fluxos de trabalho de várias etapas. É possível criar aplicações dentro do perímetro de segurança do Snowflake com os modelos próximos aos dados governados. A facilidade de uso, aliada ao ambiente confiável, agiliza o fornecimento de uma IA pronta para as empresas.
Snowflake Cortex AI
A Snowflake lançou o Cortex AI, um conjunto de recursos e serviços integrados que inclui inferência de LLM totalmente gerenciada, ajuste fino e geração aumentada de recuperação (retrieval augmented generation, RAG) para dados estruturados e não estruturados. Com isso, os clientes podem analisar com rapidez dados não estruturados, juntamente com seus dados estruturados, e agilizar a criação de aplicações de IA. A plataforma unificada de IA e dados torna fácil para muitas organizações passarem da teoria de IA para a prática em poucos dias. Agora, organizações de todos os tamanhos e setores podem implementar uma série de casos de uso, desde resumos de texto e análise de sentimentos até o desenvolvimento de chatbots de IA avançados.
Claude 3.5 Sonnet
O Claude 3.5 Sonnet é um modelo básico da Anthropic, uma empresa de segurança e pesquisa de IA. Em termos de inteligência, esse é o modelo mais avançado do setor, superando modelos concorrentes e também o Claude 3 Opus, quando submetido à uma série de avaliações, incluindo a conquista de novos prêmios de última geração para SWE-bench, uma avaliação de engenharia de software. O Claude 3.5 Sonnet se destaca em benchmarks do setor em termos de raciocínio de nível de pós-graduação (GPQA), conhecimento de nível de graduação (MMLU) e proficiência de codificação (HumanEval). Além disso, ele apresenta melhor desempenho em compreensão de nuances, humor e de instruções complexas. A capacidade de raciocínio, aliada ao desempenho, torna o Claude 3.5 Sonnet ideal para tarefas complexas, como oferecer suporte com base em contexto aos clientes e organizar fluxos de trabalho de várias etapas.
“As a composable CDP leader, generative AI is key to our ability to easily extract unknown or untapped value of customer data in Snowflake. Gaining access to Anthropic's industry-leading Claude 3.5 models within Snowflake Cortex AI empowers us to more quickly unlock value for our shared clients in a way that is secure and governed. This unified governance over data and AI gives us the ability to move quickly and greatly enhances how we serve our customers with AI.”
Jason Davis
Usando o modelo Anthropic no Cortex AI
Com o Snowflake Cortex AI, o acesso aos LLMs é fácil. Não é necessário gerenciar integrações. A governança entre dados e IA é consistente. Você pode acessar os modelos em uma das regiões para a qual há suporte. Além disso, é possível acessar por outras regiões ao habilitar a inferência entre regiões.
Você pode acessar o modelo rapidamente no Cortex Playground, acessível pela guia AI/ML Studio, para testar comandos e avaliar diferentes configurações de inferência. Além disso, é possível comparar modelos, analisar variações de resposta com diferentes configurações e permitir que o Cortex Guard filtre respostas potencialmente inadequadas ou não seguras.
SQL e Python
O modelo pode ser integrado a um pipeline de dados ou a um app Streamlit in Snowflake para processar várias linhas em uma tabela. A função COMPLETE, acessível em SQL e Python, pode ser usada para essa integração. Além disso, você pode acessar os modelos Claude a partir de um Snowflake Notebook ou do seu IDE de preferência usando o OAuth para clientes personalizados.
SELECT SNOWFLAKE.CORTEX.COMPLETE('claude-3-5-sonnet', CONCAT(‘Summarize this customer feedback in bullet points: <feedback>', content, '</feedback>');Acesse aqui outros modelos e mais detalhes a respeito de como usar a função SQL ou aprenda sobre a sintaxe em Python aqui.
API REST (em breve)
Para permitir que serviços ou aplicações executadas fora do Snowflake realizem chamadas de inferência de baixa latência para o Cortex AI, a interface de API REST é a solução certa. Veja um exemplo de como funciona:
curl -X POST \
"model": "claude-3-5-sonnet",
"messages": [
{
"content": "Summarize this customer feedback in bullet points: <feedback>”
}
],
"top_p": 0,
"temperature": 0
}' \
https://<account_identifier>.snowflakecomputing.com/api/v2/cortex/inference:completePrimeiros passos: criar um chatbot de documentos com base em RAG
O Claude 3.5 Sonnet in Cortex AI facilita a criação de apps junto a seus dados com outros recursos, como o Streamlit (desenvolvimento de front-end em Python) e Cortex Search (mecanismo de geração de incorporação integrada, gerenciamento de vetores e pesquisa híbrida).
Planos futuros para Anthropic e Snowflake
Com a disponibilidade do Claude no Cortex AI, há planos de usá-lo como um dos principais LLMs nos produtos de inteligência artificial da Snowflake, incluindo o Snowflake Intelligence (em breve, em versão preliminar privada) e o Cortex Analyst (em versão preliminar pública). Mais detalhes serão apresentados posteriormente.
Graças à precisão líder do setor e à ampla janela de contexto do Claude, as empresas podem criar com confiança aplicações de IA essenciais capazes de oferecer respostas mais confiáveis e precisas sobre todos os seus dados. Estamos ansiosos para ver as aplicações que você criará usando o Claude Sonnet no AI Data Cloud!
Para saber mais sobre a IA generativa no Snowflake e os casos de uso que você pode criar, compareça ao vivo, ou confira as sessões gravadas, do evento Gen AI Day, em 22 de janeiro de 2025.
Observação: esta página contém declarações prospectivas, inclusive sobre nossas futuras ofertas de produtos. Elas não constituem compromissos de fornecimento ou produção de quaisquer ofertas de produtos. Os resultados e os produtos reais podem diferir e estão sujeitos a riscos e incertezas conhecidos e desconhecidos. Consulte nosso documento 10-Q mais recente para obter mais informações.
Authors
