Daniela Amodei, la presidenta de la firma que amenaza el imperio de Open AI

Investigadora y empresaria italiano-americana especializada en inteligencia artificial, la trayectoria de Daniela Amodei (36) la ha convertido en referente en este tema. Sin ir más lejos, en septiembre de 2023 junto a su hermano Darío, fue nombrada en el listado de las 100 personas más influyentes en IA de la revista TIME.

Ambos dirigen Anthropic, uno de los laboratorios de inteligencia artificial más importantes del mundo que cuenta con el respaldo de Google y Amazon. En la jerga de la industria, el nombre de la firma significa garantizar que los sistemas de IA estén "alineados" con los valores humanos.

Fundada en 2021, la startup ha llevado a cabo una investigación pionera sobre “mechanistic interpretability” que tiene como objetivo permitir a los desarrolladores realizar algo similar a un escáner cerebral. De esta forma pueden ver qué está sucediendo realmente dentro de un sistema de IA, en lugar de confiar únicamente en sus resultados de texto, que no ofrecen una representación verdadera de su funcionamiento interno.

Desde la firma también han desarrollado “Constitutional AI”, un método para alinear sistemas de IA que permite a los desarrolladores explicitar los valores a los que deben adherirse sus sistemas, mediante la creación de una “constitución”, que separa la cuestión de si una IA “puede hacer” algo relacionado con temas políticamente conflictivos, de “si debería hacerlo”.

Ambos enfoques están incorporados a su último chatbot, Claude 2, un competidor cercano de GPT-4, el modelo más poderoso de OpenAI.

Sobre su financiamiento, en mayo de 2023 Anthropic recaudó US$ 450 millones en una ronda de Serie C liderada por Spark Capital, con contribuciones de Google, Salesforce Ventures, Sound Ventures y Zoom Ventures, y US$ 100 millones del gigante de telecomunicaciones surcoreano SK Telecom a finales de agosto.

Luego, en septiembre de 2023, Amazon se comprometió a invertir hasta US$ 4.000 millones en la startup, con una inversión inicial de US$ 1.250 millones por una participación minoritaria. En enero de 2024 completó su participación planificada al agregar US$ 2.750 millones.

Además, Anthropic utilizará los centros de datos de Amazon Web Services para respaldar algunas de sus operaciones clave, así como los chips personalizados de la compañía. Asimismo, la startup empleará microchips de Google, otro de sus socios importantes en el ámbito de la computación en la nube.

Trayectoria en seguridad

A pesar de sus conocimientos en inteligencia artificial, Amodei primero se graduó de literatura inglesa en la Universidad de California, Santa Cruz, con máximos honores.

Su carrera en la materia despegó cuando se unió a la fintech Stripe en 2013. Según cuenta en su perfil de LinkedIn comenzó como reclutadora individual y rápidamente hizo crecer el equipo de 45 a 300 personas, convirtiéndose en la ejecutiva técnica principal en poco tiempo. Más tarde asumió el cargo de gerenta del programa de riesgos, donde analizaba casos de posibles fraudes, créditos y violaciones de políticas.

Después de trabajar en Stripe, Amodei se unió a OpenAI, empresa en la que estuvo dos años y tres meses y donde coincidió con su hermano Darío . Primero se desempeñó como gerente de ingeniería y más tarde como vicepresidenta de seguridad y políticas, además de gestionar al equipo de operaciones comerciales.

Anthropic se presenta como un laboratorio de investigación de seguridad de la IA. Según contaron Daniela y Darío Amodei en una entrevista en la revista Time, ambos decidieron irse de Open AI y sugieren que la razón fue que tenían una visión diferente para incorporar la seguridad en sus modelos desde el principio. Eso es lo que ahora están haciendo con Anthropic.