Borrar
El verdadero cerebro de la inteligencia artificial y su plan para que las máquinas 'nos quieran'

Ilya Sutskever, director científico de OpenAI

El verdadero cerebro de la inteligencia artificial y su plan para que las máquinas 'nos quieran'

Mekakushi

ChatGPT no existiría sin Ilya Sutskever, director científico de OpenAI. Pero este israelo-canadiense, nacido en Rusia, ya no trabaja tanto en el desarrollo de la inteligencia artificial como en evitar que se descontrole, porque él no tiene duda de que las máquinas nos superarán. Y usa un símil pasmoso: no serán nuestras 'criaturas', sino nuestros 'padres'. Así que es mejor que nos quieran…

Viernes, 05 de Enero 2024

Tiempo de lectura: 10 min

Va a ser algo monumental». Ilya Sutskever no es expresivo; no sonríe ni enfatiza ni gesticula, pero es muy claro cuando habla de inteligencia artificial (IA). Es uno de los cofundadores de OpenAI –la empresa de ChatGPT– y, como su director científico, la mente detrás de su desarrollo tecnológico, frente a 'la cara' de la empresa, Sam Altman, más genial como emprendedor que como ingeniero.

ChatGPT ha expandido tanto los horizontes de la IA que ahora ya hablamos 'con soltura' del momento –no de la posibilidad– en que no podamos distinguir a las máquinas de las personas, lo que llaman 'inteligencia artificial general' (IAG). Sutskever no se limita a hablar; Sutskever se prepara ya para máquinas que nos superen. «Verán las cosas con más profundidad. Verán cosas que nosotros no vemos».

alternative text
Pasos de gigante. Ilya Sutskever con sus socios en OpenAI, Sam Altman, Mira Murati y Greg Brockman. «La informática –dice Sutskever– no es tan complicada como la física cuántica. Aquí hay mucha gente trabajando y enseguida puedes aportar algo; de ahí que se produzcan avances tecnológicos espectaculares».

El ejemplo que pone es sencillo. En 2016, la inteligencia artificial DeepMind, de Google, en su versión AlphaGo –desarrollada para jugar al go, un juego milenario chino mucho más complejo que el ajedrez–, le ganó a uno de los mejores jugadores del mundo, Lee Sedol. Y lo hizo creando nuevas jugadas que nadie había visto en los 2500 años de historia del juego. El ahora 'mítico' movimiento 37 dejó perplejos a los comentaristas, que pensaron que AlphaGo había metido la pata. En realidad había realizado una jugada ganadora totalmente nueva. «Imagina ese nivel de perspicacia, pero para todo», explica Sutskever.

«Las máquinas tendrán sus propios objetivos. Lo importante es que estén alineados con los nuestros»

Él recuerda la fascinación que sintió cuando, con 5 años, vio por primera vez un ordenador. Fue en una exposición en Jerusalén a la que acudió con su padre, ingeniero. Acababan de llegar a Israel desde la URSS, donde había nacido Ilya en 1986.

Cuando, con 16 años, se mudó a Canadá con su familia, tenía ya unos sólidos conocimientos de programación y, dice, le obsesionaba desentrañar el misterio de por qué los humanos aprenden y son conscientes y los ordenadores no. En la Universidad de Toronto dio con la persona que llevaba ya años investigando aquellos misterios: Geoffrey Hinton, el pionero de las redes neuronales en los ordenadores, más conocido como 'el padrino de la inteligencia artificial'.

Hinton ha sido determinante en el desarrollo de la IA. Pero, cuando en noviembre de 2022 OpenAI lanzó ChatGPT, fue el primero en alertar de los peligros del invento, desconcertado él mismo por la rapidez del proceso y la profundidad de sus consecuencias.

alternative text
La pregunta adecuada. Sutskever con Geoffrey Hinton, el 'padrino de la inteligencia artificial', cuando era su alumno en la Universidad de Toronto. El profesor recuerda que destacaba porque era especialmente rápido desarrollando código y era capaz de hacer siempre las preguntas adecuadas.

Sin embargo, cuando Sutskever se convirtió en su alumno a principios del milenio, la mayoría despreciaba su línea de investigación: las redes neuronales, es decir, máquinas que simulan el funcionamiento de nuestras neuronas en el cerebro. Simplificando mucho, lo que hacen es recoger datos, encontrar patrones en ellos y, basándose en un proceso sencillo (matemáticas en las redes neuronales, sustancias químicas y bioelectricidad en los cerebros), las propagan o no según su eficacia.

No fue hasta 2012 cuando esta forma de generar IA empezó a ser respetada: una red neuronal creada por Hinton y dos de sus estudiantes –uno de ellos, Sutskever– ganó un importante concurso para el reconocimiento de imágenes. Lo que demostraron es que las redes neuronales eran muy eficaces reconociendo patrones. Solo requerían de una potencia de cálculo desorbitada y para ello necesitaban procesadores más potentes.

Ahí se cruzó en sus vidas Jensen Huang, director ejecutivo de Nvidia. Su empresa había creado un nuevo chip, la unidad de procesamiento gráfico (GPU), para agilizar las imágenes de videojuegos. Pero Huang estaba convencido de que sus GPU podían tener usos más «estrafalarios». Y le pareció que las redes neuronales encajaban en esa descripción. Así que envió un par de GPU a la Universidad de Toronto. Uno de esos modelos impresionó a Sutskever. El problema es que necesitaban muchos chips y Nvidia no podía suministrar más que uno por comprador. Y ahí comienzan las leyendas. Según Huang, Sutskever cruzó de Toronto a Nueva York y de alguna forma regresó con el maletero del coche lleno de GPU. Sutskever no ha desvelado el misterio, pero aquel fue un paso decisivo para llegar hoy a ChatGPT y ha convertido a Nvidia en una empresa billonaria y de las más poderosas de Silicon Valley: no hay IA sin sus GPU.

Para entonces, Google ya le había 'tirado los tejos' a Sutskever. Lo fichó para seguir investigando en redes neuronales. No duraría mucho en Google porque apenas dos años después se cruzaría en su vida alguien aún más determinante que Huang: Sam Altman.

Hinton explica que la IA generativa no es algo 'creado' por humanos. «Nosotros diseñamos el algoritmo de aprendizaje, que es como diseñar el principio de la evolución. Luego, ese algoritmo interactúa con datos y produce complicadas redes neuronales; pero no sabemos cómo lo hace»

A mediados de 2015, Altman invitó a Sutskever a cenar en un elegante hotel de Palo Alto con Elon Musk y Greg Brockman, director de tecnología de Stripe, una plataforma de pagos. Le contaron que querían crear una organización que supusiese un salto cualitativo en la inteligencia artificial. Luego Musk se 'bajaría' del proyecto porque quería controlarlo, y ni Altman ni Brockman son de los que se dejan controlar. Brockman sería el presidente y Altman, el 'brazo ejecutor'. Lo que Altman tenía clarísimo era quién tenía que ser 'el científico': Ilya Sutskever.

El principio de OpenAI fue decepcionante: no progresaban. Pero nada logró apartar un ápice a Sutskever de su línea de investigación. «Esa ha sido nuestra estrategia: esforzarnos mucho en resolver los problemas y luego tener fe en que nosotros o alguien en nuestro campo descubrirá el ingrediente que faltaba». Y la fe dio sus frutos.

Todo lo que necesitas es atención

A principios de 2017, un grupo de jóvenes investigadores de Google publicó un artículo que, con cierto humor poco académico, tituló: «Attention is all you need». Lo que habían creado era un modelo de aprendizaje profundo que hacía posible que una red neuronal comprendiera y generara lenguaje de manera mucho más eficiente. A esos modelos los llamaron 'Transformers', por los famosos juguetes que transforman camiones en robots gigantes.

El artículo estaba a disposición de todo el mundo, pero fue Sutskever quien lo entendió: «Esto es lo que estábamos esperando», sentenció. Nació así el ChatGPT-1. La 'T' es de Transformer. En dos semanas avanzaron más que en dos años. Entrenaron a la primera IA con 7000 libros, exámenes de secundaria, preguntas y respuestas de Quora… y la IA superó todo lo conocido en comprensión del lenguaje y generación de respuestas. Pero lo más espectacular fue que la máquina incluso daba respuestas que no habían sido programadas.

Plantear que una máquina es consciente es el penúltimo tabú. Es un concepto vinculado a lo espiritual. Pero también se pensaba eso antes de la vida y hoy sabemos que puede crearse a partir de materia inorgánica

«No puedo enfatizar esto lo suficiente: no teníamos un plan maestro», ha explicado Altman. «Era como si estuviéramos cruzando cada esquina y alumbrando con una linterna. Estábamos dispuestos a atravesar el laberinto para llegar al final». Pero, claro, no esperaron a llegar al final para sacarlo al mercado.

En noviembre de 2022, OpenAI lanzó ChatGPT… y el resto es historia. Cambió la agenda de toda la industria tecnológica. Sutskever reconoce que, cuando lo hicieron, no sabían qué iba a pasar. «Ni siquiera sabía si era lo suficientemente bueno», reconoció en la revista del MIT. La clave de su éxito, asegura Ilya, es que fuera gratis y que fuera fácil. Millones de personas tuvieron acceso por primera vez a ese tipo de IA y, aunque para alguien como él era deficiente, para quien tiene una primera experiencia es un shock: «Usarlo por primera vez es casi una experiencia espiritual –admite Ilya–. Dices: 'Dios mío, parece que este ordenador comprende'».

«Las creencias y deseos de las primeras inteligencias artificiales generales son extremadamente importantes porque evolucionarán. Si no se programan bien, esa evolución priorizará su propia supervivencia sobre la nuestra»

En poco más de un mes lo usaron cien millones de personas de todo el planeta. Para entonces ya no era importante si de vez en cuando la máquina respondía una estupidez. Ha pasado solo poco más de un año y la máquina, ahora ChatGPT-5, ya no responde estupideces. Porque aprende. Y lo hace deprisa. Y de forma 'misteriosa'. Aquí es pertinente la explicación de Hinton, el padre de todo esto, ahora de 75 años, para entenderlo. Hinton explica que la inteligencia artificial generativa no es algo 'creado' por humanos. «Nosotros diseñamos el algoritmo de aprendizaje, que es como diseñar el principio de la evolución. Luego, ese algoritmo interactúa con datos y produce por su cuenta complicadas redes neuronales que son eficaces haciendo algo; pero no sabemos exactamente cómo lo hace».

Esta línea de pensamiento ha llevado desde hace meses a Sutskever a centrarse en la superalineación; es decir, no tanto en ampliar la IA como en aprender a controlarla. El objetivo es idear procedimientos para evitar que esa superinteligencia «vaya por libre». «Las máquinas tendrán sus propios objetivos, lo importante es que esos objetivos estén alineados con los nuestros», explica impasible Ilya. Eso sí, incidiendo en por qué es clave el código que se escriba ahora: «Las creencias y deseos de las primeras inteligencias artificiales generales son extremadamente importantes porque desde ahí evolucionarán. Y hay que programarlas bien. Si no se hace, esa evolución priorizará su propia supervivencia sobre la nuestra».

Sutskever tiene un ejemplo en mente: una máquina que mire a las personas como los padres a sus hijos. «En mi opinión, es la regla de oro. Pues, por lo general, la gente se preocupa de verdad por los niños». ¿Desconcertante?

La mayoría de los ingenieros –y de los humanos– tiende a pensar en las máquinas como 'nuestras criaturas', es decir, como 'hijos' tecnológicos. Sutskever y Hinton no. Hinton siempre ha pensado en las máquinas como nuestros padres potenciales: estarán por encima, pero lograremos que, pese a ello, 'nos quieran'. El ejemplo de Hinton es que, igual que los bebés han desarrollado un llanto para evitar ser abandonados, nosotros desarrollaremos un código para evitar ser eliminados. ¿Inquietante?

Pues es solo el principio. En febrero de 2023, Sutskever tuiteó: «Puede que las grandes redes neuronales sean ligeramente conscientes». Le llovieron críticas dentro de su propio campo. En una entrevista en Wired le insistieron: «¿Estás diciendo que, mientras la red neuronal está activa, hay algo ahí?». «Podría ser», respondió con cautela. «No lo sé con seguridad, pero es una posibilidad muy difícil de rebatir. Quién sabe lo que está pasando, ¿no?».

Plantear que una máquina es consciente es el penúltimo tabú. Es un concepto que, para muchos, sigue vinculado al alma, a lo espiritual. Pero, como recuerda Mariano Sigman, autor del libro Artificial, antes se pensaba eso mismo de la vida y hoy sabemos que la vida puede sintetizarse a partir de materia inorgánica (ahí están vivos y coleando los monos quiméricos chinos creados con embriones artificiales).

El día que asumió el papel de Bruto

Y en eso estaba Sutskever cuando estalló el pasado 17 de noviembre 'la rebelión' en OpenAI. La junta directiva destituyó a su director ejecutivo y 'César', Sam Altman, y Sutskever asumió el papel de Bruto. Fue él quien informó a Altman de que estaba despedido, por videoconferencia. Una operación desconcertante y, como se ha demostrado, pésimamente preparada. Sutskever, de bajísimo perfil público, no parece un hombre preparado para ese tipo de batalla y menos frente a Altman, «entrenado para la pelea a cuchillo en el fango» según lo definen en The Atlantic. En cinco días, Altman había recuperado su cargo.

alternative text
Error de cálculo. Sutskever y Sam Altman durante una presentación de OpenAI en Israel. El jefe científico fue el encargado de comunicar a Altman su despido como CEO, una maniobra de la Junta Directiva que en apenas cinco días dio un giro de 180 grados y que hay dejado a Sutskever en una posición incierta.

¿Qué pasó? Puede que a Ilya le 'comiesen la cabeza' los disidentes de la junta que alegaron que Altman estaba lanzando nuevos productos sin confirmar su seguridad. O que Altman, según otros rumores, estuviese realizando movimientos empresariales demasiado audaces con inversores de regímenes árabes 'cuestionables'. O que, como explicaron algunas fuentes internas en The Atlantic, Sutskever se sintiera frustrado al ser apartado de los planes para ampliar la empresa.

Pero lo que, de hecho, había pasado unos días antes es que Altman había presentado en público las GPT personalizadas, una herramienta para que cada empresa o particular pueda desarrollar sus propias inteligencias artificiales. Sutskever cree que eso podría derivar en «una corporación autónoma» compuesta por miles de IA que podrían ser tan poderosas como 50 Google, y eso, concluye, sería «un poder tremendo, increíblemente perturbador».

Pero Altman tenía el apoyo de las tropas –más de 700 de los 770 empleados de OpenAI amenazaron con dimitir si no era restituido– y, sobre todo, tenía el respaldo absoluto de Microsoft, el principal socio de la empresa. Sutskever reculó. «Lamento profundamente mi participación en las acciones de la junta», escribió. Sigue en la empresa; está por verse si puede recuperar la confianza de Altman y Brockman. Su futuro es tan incierto como el de la IA. «Tenemos una transformación tecnológica de una magnitud tan gigantesca y catastrófica –dice Sutskever– que, incluso si todos hacemos nuestra parte, el éxito no está garantizado. Pero, si todo sale bien, tendremos una vida increíble».

Ilya no sonríe, pero un buen baremo sobre su fe en el futuro es una pregunta –¿tiene hijos?– a la que él, que no habla nunca de su vida privada, ha respondido en un par de ocasiones: «No, pero quiero tenerlos».

MÁS DE XLSEMANAL