Crea aplicaciones de IA basadas en agentes y RAG con Claude 3.5 Sonnet de Anthropic en Snowflake Cortex AI
Hoy nos complace anunciar la disponibilidad general de Claude 3.5 Sonnet como el primer modelo básico de Anthropic disponible en Snowflake Cortex AI. Los clientes ya pueden acceder al modelo más inteligente de la familia de modelos Claude desde Anthropic utilizando interfaces conocidas de SQL, Python y REST API (próximamente), dentro del perímetro de seguridad de Snowflake. Esta integración nativa permite a los equipos de datos e ingeniería abordar de manera eficiente algunos de los desafíos más comunes, según la encuesta de MIT Technology Review Insights 2024, en la implementación de inteligencia artificial (IA), incluida la gobernanza, privacidad e integración de datos.
Con Sonnet 3.5 en Cortex AI, las empresas pueden aprovechar aún más todo el potencial de sus datos a través de asistentes de conversación y procesamiento de lenguaje a gran escala. Los modelos lingüísticos avanzados de Claude mejorarán aún más la forma en que los desarrolladores pueden crear agentes que ejecuten analíticas ad hoc, extraigan respuestas de documentos y otras bases de conocimientos y ejecuten otros flujos de trabajo en varios pasos. Puedes crear aplicaciones en el perímetro de seguridad de Snowflake con los modelos junto a tus datos gobernados. La facilidad de uso y el entorno de confianza aceleran la entrega de IA empresarial.
Snowflake Cortex AI
Snowflake ha lanzado Cortex AI, un conjunto de funciones y servicios integrados que incluye la inferencia de large language models (LLM) totalmente gestionados, el ajuste y la generación aumentada de recuperación (Retrieval Augmented Generation, RAG) para datos estructurados y no estructurados, con el fin de permitir a los clientes analizar rápidamente los datos no estructurados junto con sus datos estructurados y acelerar la creación de aplicaciones de IA. La plataforma de datos e IA unificada facilita el paso del concepto de IA a la realidad en pocos días para las empresas. Organizaciones de todos los tamaños y sectores ahora pueden llevar a cabo una gama de casos de uso, desde el resumen de texto y el análisis de sentimientos hasta el desarrollo de potentes chatbots de IA.
Claude 3.5 Sonnet
Claude 3.5 Sonnet es un modelo básico de la empresa de investigación y seguridad en IA Anthropic. El modelo sube el listón de la industria en inteligencia, superando así a los modelos de la competencia y al modelo Claude 3 Opus en una amplia gama de evaluaciones, incluido un nuevo logro de última generación para SWE-bench , una evaluación de ingeniería de software. Claude 3.5 Sonnet destaca en las referencias del sector en razonamiento a nivel de posgrado (GPQA), conocimiento a nivel de grado (MMLU) y competencia en programación (HumanEval). Además, ha mejorado el rendimiento con matices de comprensión, humor e instrucciones complejas. Las capacidades de razonamiento combinadas con el rendimiento hacen que Claude 3.5 Sonnet sea ideal para tareas complejas, como proporcionar asistencia al cliente sensible al contexto y organizar flujos de trabajo en varios pasos.
“Como líder en CDP componibles, creo que la IA generativa es fundamental para poder extraer fácilmente el valor, desconocido o sin aprovechar, de los datos de los clientes que están en Snowflake. Al tener acceso a los modelos Claude 3.5, líderes del sector, de Anthropic en Snowflake Cortex AI podemos generar valor más rápido para los clientes que compartimos de forma segura y gobernada. Esta gobernanza unificada de los datos y la IA nos permite reaccionar con rapidez y mejora mucho nuestra forma de prestar servicio a los clientes con la IA".
Jason Davis
Uso del modelo de Anthropic en Cortex AI
Con Snowflake Cortex AI es muy sencillo acceder a LLM. No es necesario gestionar las integraciones; la gobernanza es uniforme en todos los datos y la IA. Puedes acceder a los modelos en una de las regiones admitidas. También puedes acceder desde otras regiones con la inferencia entre regiones habilitada.
Puedes acceder al modelo rápidamente en Cortex Playground a través de la pestaña AI/ML Studio para probar las instrucciones y evaluar diferentes configuraciones de inferencia. Además, puedes comparar modelos, analizar variaciones de respuesta con diferentes ajustes y permitir que Cortex Guard filtre respuestas potencialmente inapropiadas o inseguras.
SQL y Python
El modelo se puede integrar en un flujo de datos o en una aplicación de Streamlit en Snowflake para procesar varias filas de una tabla. Para esta integración se puede utilizar la función COMPLETE, accesible tanto en SQL como en Python. También puedes acceder a los modelos de Claude desde un Snowflake Notebook o desde el entorno de desarrollo integrado (integrated development environment, IDE) que prefieras mediante OAuth para clientes personalizados.
SELECT SNOWFLAKE.CORTEX.COMPLETE('claude-3-5-sonnet', CONCAT(‘Summarize this customer feedback in bullet points: <feedback>', content, '</feedback>');Accede a más plantillas y detalles sobre cómo utilizar la función SQL aquí u obtén más información sobre la sintaxis en Python aquí.
REST API (próximamente)
Para que los servicios o aplicaciones que se ejecutan fuera de Snowflake puedan realizar llamadas de inferencia de baja latencia a Cortex AI, la interfaz REST API es la solución. Aquí tienes un ejemplo de cómo funciona:
curl -X POST \
"model": "claude-3-5-sonnet",
"messages": [
{
"content": "Summarize this customer feedback in bullet points: <feedback>”
}
],
"top_p": 0,
"temperature": 0
}' \
https://<account_identifier>.snowflakecomputing.com/api/v2/cortex/inference:completePuesta en marcha: crea una aplicación de búsqueda de documentos basada en RAG
Claude 3.5 Sonnet in Cortex AI facilita la creación de aplicaciones junto con tus datos con otras funciones como Streamlit (desarrollo front-end en Python) y Cortex Search (motor RAG con generación integrada de vectores de representación, gestión de vectores y búsqueda híbrida).
Planes de futuro para Anthropic y Snowflake
Ahora que Claude está disponible en Cortex AI, está previsto que los productos de IA agente de Snowflake, como Snowflake Intelligence (próximamente en vista previa privada) y Cortex Analyst (en vista previa pública), usen Claude como uno de los LLM clave, y pronto se conocerán más detalles.
Gracias a la precisión y la ventana de contexto ampliada de Claude, líderes del sector, las empresas pueden crear con confianza aplicaciones de IA esenciales que ofrezcan respuestas más fiables y precisas en todos sus datos. Estamos deseando ver las aplicaciones que creas en el AI Data Cloud con Claude Sonnet.
Para obtener más información sobre la IA generativa en Snowflake y los casos de uso que puedes crear, no te pierdas al evento Gen AI que se va a celebrar el 22 de enero.
Nota: Este artículo contiene declaraciones prospectivas, también sobre nuestras futuras ofertas de productos, que no implican que nos comprometamos a proporcionar ninguna oferta de producto. Los resultados y las ofertas reales pueden diferir y están sujetos a riesgos e incertidumbres conocidos y desconocidos. Consulta nuestro Formulario 10-Q más reciente para obtener más información.
Authors
