La primera historia es sobre el despido de su director general: Sam Altman. La empresa OpenAI lanzó ChatGPT el 22 de noviembre del 2022 y revolucionó la industria de inteligencia artificial, al permitir el uso masivo de esta tecnología. Ha dado mucho de qué hablar después de despedir a su líder y creador con el argumento de “pérdida de confianza”
Sam Altman de inmediato fue contratado por Microsoft, uno de los socios de OpenAI, y cientos de empleados de la empresa amenazaron con irse con él si no se le regresaba su puesto. Días después del Consejo directivo reconsideró su decisión y volvió a contratar a su líder; esta situación originó un cisma al interior de la empresa dejándolos fuera y formando un nuevo consejo directivo, quizás mucho más cercano a los intereses de Altman.
La segunda historia es menos de telenovela y más de negocios: varias filtraciones periodísticas hablan de que ésta “pérdida de confianza” pudo deberse a los tratos que hizo Altman con empresarios árabes para desarrollar un microchip lo suficientemente capaz de llevar a cabo operaciones de inteligencia artificial con gran velocidad. Esto molestó a los empresarios de Silicon Valley, porque temían perder el control del desarrollo de esta novedosa tecnología, además de ampliar el mercado hacia el área del hardware que no era del todo conocida por Altman.
Pero la tercera historia es la que más llama la atención: está vinculada con la ciencia ficción y tal vez al chisme de programadores y desarrolladores. Y es que los miembros del consejo directivo de OpenAI despidieron a su director general por miedo, supuestamente estaba desarrollando en secreto una inteligencia artificial general, llamada proyecto Maven, que manipula las emociones de las personas. Así es, una IA que no era estrecha como ChatGPT-3, sino general, es decir, que aprende por sí misma.
Al enterarse los miembros del consejo, supusieron que este desarrollo sin ningún control podría amenazar a la humanidad y la industria en ciernes de tecnologías de inteligencia artificial. Esa fue la excusa para deshacerse de Altman y frenar este riesgoso proyecto.
Los usuarios de tecnología sólo podemos atestiguar estas tres historias. No sabemos cuál es la verdad. No obstante, este evento demuestra que la empresa líder en IA ya está en problemas de liderazgo y de visión. Por un lado, los tecno-optimistas, quienes pensamos en las bondades de las tecnologías a pesar de sus riesgos, y los tecno-pesimistas, quienes alertan sobre los supuestos riesgos catastróficos para terminar con la humanidad.
Esta situación demuestra varios aspectos por analizar, pero el más importante es la ética de los desarrolladores de IA. Estas industrias, no sólo OpenAI, trabajan en proyectos secretos para venderlos al mejor postor, sin saber qué impacto tendrán en la humanidad. Requiere que el Instituto de Seguridad de IA, del que hablamos aquí, funcione y sancione a los países para controlar la industria. ¿Quién podrá frenarlos?
__________________
El autor de la columna “Tecnogob”, Rodrigo Sandoval Almazán, es Profesor de Tiempo Completo SNI Nivel 2 de la Universidad Autónoma del Estado de México. Lo puede contactar en tecnogob@pm.me y en la cuenta de Threads @horus72.
