Ilya Sutskever, ex científico jefe y cofundador de OpenAI, ha anunciado el lanzamiento de Safe Superintelligence Inc. (SSI), una nueva empresa de inteligencia artificial (IA) que promete priorizar la seguridad por encima de las presiones comerciales.
Safe Superintelligence Inc.: Una Nueva Era en IA Segura
En una publicación realizada el miércoles, Sutskever presentó Safe Superintelligence Inc. (SSI), una startup con un único objetivo: crear un sistema de IA seguro y poderoso. Esta nueva empresa busca abordar la seguridad y las capacidades en conjunto, permitiendo que la empresa avance rápidamente en su sistema de IA mientras sigue priorizando la seguridad.
El anuncio subraya que SSI evitará las distracciones comunes en otras grandes compañías de tecnología, como la sobrecarga de gestión o los ciclos de productos, permitiendo así un enfoque singular en la seguridad. «Nuestro modelo de negocio significa que la seguridad, la protección y el progreso están todos aislados de las presiones comerciales a corto plazo», reza el comunicado. «De esta manera, podemos escalar en paz».
Un Enfoque Singular y Colaborativo
Además de Sutskever, SSI cuenta con la colaboración de Daniel Gross, un ex líder de IA en Apple, y Daniel Levy, quien previamente trabajó como miembro del personal técnico en OpenAI. Esta alineación promete una combinación de experiencia y enfoque dedicado a la seguridad en el desarrollo de la inteligencia artificial.
El año pasado, Sutskever fue una figura clave en la destitución del CEO de OpenAI, Sam Altman. Tras dejar OpenAI en mayo, Sutskever insinuó el inicio de un nuevo proyecto que ahora se materializa en SSI. Poco después, el investigador de IA Jan Leike también anunció su renuncia a OpenAI, citando procesos de seguridad que «han pasado a un segundo plano frente a productos llamativos». Gretchen Krueger, una investigadora de políticas en OpenAI, también mencionó preocupaciones de seguridad al anunciar su partida.
Mirando Hacia el Futuro
A medida que OpenAI avanza con asociaciones con gigantes tecnológicos como Apple y Microsoft, SSI ha dejado claro que no seguirá ese camino en el futuro cercano. Durante una entrevista con Bloomberg, Sutskever afirmó que el primer producto de SSI será la superinteligencia segura, y que la empresa «no hará nada más» hasta lograr ese objetivo.
Con este enfoque, Safe Superintelligence Inc. promete redefinir el desarrollo de la inteligencia artificial al colocar la seguridad en el centro de su misión, desafiando las tendencias actuales de la industria tecnológica.
