Por Kevin Roose – NYT 22 de noviembre de 2023
Lo que sucedió en OpenAI durante los últimos cinco días podría describirse de muchas maneras: un jugoso drama en la sala de juntas, un tira y afloja por una de las empresas emergentes más grandes de Estados Unidos, un choque entre quienes quieren que la IA progrese más rápido y quienes quieren desacelerarla.
Pero lo más importante fue una lucha entre dos visiones enfrentadas de la inteligencia artificial.
Según una visión, la IA es una nueva herramienta transformadora, la última de una línea de innovaciones que cambiarán el mundo que incluye la máquina de vapor, la electricidad y la computadora personal, y que, si se le da el uso correcto, podría marcar el comienzo de una nueva era de prosperidad y generar grandes cantidades de dinero para las empresas que aprovechen su potencial.
En otra visión, la IA es algo más cercano a una forma de vida alienígena (un leviatán convocado desde las profundidades matemáticas de las redes neuronales) que debe ser restringida y desplegada con extrema precaución para evitar que se apodere de nosotros y nos mate a todos.
Con el regreso de Sam Altman el martes a OpenAI, la compañía cuyo directorio lo despidió como director ejecutivo el viernes pasado, la batalla entre estos dos puntos de vista parece haber terminado.Ganó el equipo Capitalismo. El equipo Leviatán perdió.
La nueva junta directiva de OpenAI estará formada por tres personas, al menos inicialmente: Adam D’Angelo, director ejecutivo de Quora (y el único vestigio de la antigua junta directiva); Bret Taylor, ex ejecutivo de Facebook y Salesforce; y Lawrence H. Summers, exsecretario del Tesoro. Se espera que la junta crezca a partir de ahí.
También se espera que el mayor inversor de OpenAI, Microsoft, tenga una mayor voz en la gobernanza de OpenAI en el futuro. Eso puede incluir un asiento en la junta directiva.
Han desaparecido de la junta tres de los miembros que presionaron para que se destituyera a Altman: Ilya Sutskever, científico jefe de OpenAI (quien desde entonces se retractó de su decisión); Helen Toner, directora de estrategia del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown; y Tasha McCauley, emprendedora e investigadora de RAND Corporation.
Sutskever, Toner y McCauley son representativos del tipo de personas que estuvieron muy involucradas en el pensamiento sobre la IA hace una década: una mezcla ecléctica de académicos, futuristas de Silicon Valley e informáticos. Vieron la tecnología con una mezcla de miedo y asombro, y se preocuparon por eventos futuros teóricos como la “singularidad”, un punto en el que la IA superaría nuestra capacidad para contenerla. Muchos estaban afiliados a grupos filosóficos como los Altruistas Efectivos, un movimiento que utiliza datos y la racionalidad para tomar decisiones morales, y fueron persuadidos a trabajar en IA por el deseo de minimizar los efectos destructivos de la tecnología.
Esta era la vibra en torno a la IA en 2015, cuando OpenAI se formó como una organización sin fines de lucro, y ayuda a explicar por qué la organización mantuvo su intrincada estructura de gobierno, que le dio a la junta sin fines de lucro la capacidad de controlar las operaciones de la empresa y reemplazar su liderazgo, incluso después de comenzar como una organización sin fines de lucro en 2019. En ese momento, muchos en la industria consideraban que proteger la IA de las fuerzas del capitalismo era una máxima prioridad, que debía incluso consagrarse en los estatutos corporativos.Pero muchas cosas han cambiado desde 2019. La poderosa IA ya no es solo un experimento mental: existe dentro de productos reales, como ChatGPT, que utilizan millones de personas todos los días. Las empresas tecnológicas más grandes del mundo están compitiendo para construir sistemas aún más potentes. Y se están gastando miles de millones de dólares para construir e implementar IA dentro de las empresas, con la esperanza de reducir los costos laborales y aumentar la productividad. Los nuevos miembros de la junta directiva son el tipo de líderes empresariales que uno esperaría que supervisaran un proyecto de este tipo. Taylor, el nuevo presidente de la junta directiva, es un experimentado negociador de Silicon Valley que lideró la venta de Twitter a Elon Musk el año pasado, cuando era presidente de la junta directiva de Twitter. Y Summers, un destacado economista que ha dicho que cree que el cambio tecnológico es un “bien neto” para la sociedad.
Es posible que todavía haya voces de cautela en el consejo reconstituido de OpenAI, o figuras del movimiento de seguridad de la IA. Pero no tendrán poder de veto ni la capacidad de cerrar efectivamente la empresa en un instante, como lo hizo la antigua junta directiva. Y sus preferencias se equilibrarán con las de otros, como las de los ejecutivos e inversores de la empresa.
Eso es bueno si eres Microsoft o cualquiera de las miles de otras empresas que dependen de la tecnología OpenAI. Una gobernanza más tradicional significa menos riesgo de una explosión repentina o de un cambio que le obligue a cambiar de proveedor de IA rápidamente.
Y tal vez lo que ocurrió en OpenAI –un triunfo de los intereses corporativos sobre las preocupaciones sobre el futuro– fuera inevitable, dada la creciente importancia de la IA. Era poco probable que una tecnología potencialmente capaz de marcar el comienzo de una Cuarta Revolución Industrial fuera gobernada a largo plazo por quienes querían frenarla, no cuando había tanto dinero en juego.Todavía quedan algunos rastros de las viejas actitudes en la industria de la IA. Anthropic, una empresa rival fundada por un grupo de ex empleados de OpenAI, se ha erigido como una corporación de beneficio público, una estructura legal destinada a aislarla de las presiones del mercado. Y un movimiento activo de IA de código abierto ha abogado por que la IA permanezca libre del control corporativo.
Pero es mejor verlos como los últimos vestigios de la vieja era de la IA, en la que las personas que la creaban contemplaban la tecnología con asombro y terror, y buscaban restringir su poder a través de la gobernanza organizacional.
Ahora, los utópicos están al mando. Máxima velocidad adelante.
