Caos en la Inteligencia Artificial (IA)
El Especial WMC
La disruptiva y dinámica industria de la Inteligencia Artificial (AI) fue escenario de una convulsa agitación por el despido que la Junta Directiva de OpenAI hizo a su CEO y co fundador Sam Altman, quien regresa a su empleo apenas 5 días después, causando el retiro de varios de los directivos que iniciaron la maniobra. Pero los entre telones de este confuso episodio son todavía objeto de especulaciones, que evidencian poderosos intereses en conflicto.
Imagen: CEO de Microsoft Satya Nadella a la izquierda y el CEO de OpenAI Sam Altman en la sede de Microsoft con ocasión del anuncio de la alianza estratégica entre MSFT y OpenAI en el 2019. Crédito: MSFT
DESPIDO Y REENGANCHE
La sucesión de eventos de los pasados 5 dias:
Debido a las fricciones entre Altman y la Junta Directiva de OpenAI esta resuelve exigir su retiro de la empresa.
Las manifestaciones solidarias de más de 500 empleados dispuestos a renunciar si este no es restituido.
El anuncio de Microsoft (MSFT), importante accionista de OpenAI para contratación de Altman como jefe de una nueva división de AI de MSFT.
La negociación para la reinserción de Altman como CEO de OpenAI, nombramiento de nuevos miembros para la Junta Directiva y retiro de algunos originales.
Estos eventos recientes, han puesto de manifiesto los fallos en la gobernanza de OpenAI, ya que se trata de un raro experimento en el que una Junta Directiva seleccionada expresamente para ejercer su vocación altruista y humanista, intenta supervisar la gestión de una compañía en manos de una gerencia enfocadas en los fines de lucro.
Y es que el desarrollo de las aplicaciones en base a AI demanda intensos esfuerzos de inversión de capital, que deben financiarse a partir de las ganancias generadas por la misma industria. De ahí la presión comercial, que se intuye al observar la Gráfica 2, donde se muestra un gráfico de velas japonesas con la evolución de la capitalización de mercado desde inicios de este año a la fecha, correspondiente al índice IAIQ, compuesto por las empresas que se dedican al desarrollo y empleo de tecnologías de AI y al análisis de la Big Data.
La Gráfica 3, muestra también que el sub sector de AI es uno de los de mayor rendimiento dentro del índice Nasdaq.
Gráfica 2. Velas japonesas de la evolución de la capitalización de mercado desde enero a la fecha correspondiente al índice IAIQ, . Fuente: Bloomberg
ENTRE TELONES DEL ENFRENTAMIENTO
Ningún vocero ha declarado sobre las razones del conflicto entre la Gerencia y la Directiva, pero los rumores apuntan hacia los esfuerzos de la Junta por limitar el desarrollo y temprana comercialización de un “misterioso nuevo modelo de OpenAI denominado Q*“.
Tom Carter, de Business Insider News, especula que el incidente podría estar ligado al Q*, modelo desarrollado a principios de año por un equipo bajo la conducción de Ilya Sutskever, jefe científico de OpenAI. Se habla de la capacidad del modelo para resolver problemas matemáticos de nivel universitario.
Reuters por su parte, reporta que el modelo provocó una tormenta al interior de la organización cuando varios miembros de la gerencia advirtieron por escrito al directorio que este nuevo desarrollo “podría amenazar a la humanidad”. A raíz de ello algunos directores trataron de frenar el desarrollo del modelo hasta que se tuviese una estimación del impacto que se esperaría de su utilización.
La habilidad para resolver problemas matemáticos básicos puede que no suene tan impresionante, pero los expertos de AI opinan que eso representa un gran adelanto respecto a modelos existentes denominados Generative Artificial Intelligence (AGI), que enfrentan serias dificultades para concluir generalizaciones mas allá de la data en la que han sido entrenados. De Q*comenta Charles Higgins, cofundador de la startup Tromero, dedicada al entrenamiento de AI, que “si en verdad es capaz de razonar lógicamente y simultáneamente sobre conceptos abstractos” se trata de un salto cuántico, puesto que ningún modelo conocido lo ha logrado.
El staf de Tromero sugiere que Q* podría ser la combinación de las Deep-Learning Techniques (que dan operatividad a aplicaciones como ChatGPT), con reglas programadas por humanos. Se trataría de una aproximación a la solución del problema que actualmente enfrentan los chatbot conocido como las “alucinaciones”.
Sucede que cuando a un chatbot se le hace una consulta para la que no tiene respuesta, se enreda, porque sencillamente ellos no saben, lo que no saben. Así que en lugar de rehusarse a responder, ellos extrapolan, basados en lo que saben, y hacen una estimación o suposición, que llaman un “Educated Guess”. El problema es que tampoco ellos advierten al usuario que están suponiendo, y simplemente presentan su argumentación como un hecho real. Cuando un Chatbot inventa una respuesta que presenta a un usuario como un hecho real, se dice que es una alucinación.
Sophia Kalanovska, tambien de Tromero, opina que “Q* podría estar emulando la actuación conjunta de los dos hemisferios cerebrales, y ser capaz de conocer y aprender de experiencias, mientras que a la vez razonan en base a hechos ciertos, lo que es realmente un paso mas cercano a lo que definimos como inteligencia, y así sería posible la creación de un modelo con la facultad de crear nuevas ideas, que no es el caso de ChatGPT”
Y ese es el actual techo para el avance de la AI, pues los modelos se limitan a arrojar composiciones realizadas a partir de información disponible solo dentro de la data empleada para su entrenamiento. La inhabilidad para razonar y crear nuevas ideas es la próxima frontera para alcanzar lo que en la industria se denomina Artificial General Intelligence (AGI).
Gráfica 3. Evolución comparativa 2016- 23 de la revalorización Índice IAIQ, en línea negra; y en línea azul el Indice Nasdaq. Fuente: Bloomberg. Composición: WMC
ALIANZA MICROSOFT-OpenAI
La decisión del CEO de Microsoft (MSFT), Satya Nadella de apostar por OpenAI en 2019 ha resultado una de las alianzas más exitosas de la industria tecnológica y ha dado a la compañía de software una gran ventaja en el mercado de la inteligencia artificial (IA) generativa. La revalorización de mercado que registra la empresa este año es de alguna manera consecuencia de esta alianza. (Véase gráfica 4). Además, su cercanía con el CEO de OpenAI Sam Altman, también ha puesto de manifiesto lo mucho que ha comprometido Nadella por esa sinergia. Pero además de la amistad, la relación se ha basado en una lógica empresarial clara. Para Microsoft, los modelos lingüísticos de OpenAI se han convertido en un ingrediente clave de sus recientes productos de IA, mientras que OpenIA necesita la plataforma en la nube y el capital de Microsoft para respaldar sus gigantescos modelos de IA. Por ello, el despido de Altman la semana pasada supuso una amenaza para la estrategia de IA de Microsoft, de manera que el episodio puso de manifiesto la vulnerabilidad de la asociación. Esto, a su vez, podría dificultar que Microsoft satisfaga las expectativas de Wall Street de que su liderazgo en IA generativa se traduzca rápidamente en mayores ingresos, según algunos analistas.
Gráfica 4. Evolución comparativa de la revalorización de la acción de Microsoft (línea negra) respecto al índice S&P 500 (linea azul), e índice Nasdaq (línea naranja) . Fuente: Bloomberg. Composición: WMC
Por lo pronto la re inserción de Altman es vista apenas como “el fin del principio” en una saga que continuará, y que ha entrado en el asueto largo de “Thanks Giving Day”, dejando en suspenso que será lo siguiente por venir, no solo para OpenAI, sino que también para el futuro de la industria de la AI.