Seguinos en nuestras redes

Tecnología

Revelan el motivo detrás del despido de Sam Altman: un descubrimiento que “amenaza a la humanidad”

Todo indica que se trata de un tipo de avance que haría que las máquinas estén muy cerca del pensamiento humano.

Antes de que el cofundador de OpenAI Sam Altman viviera sus horas decisivas al ser despedido de la compañía el viernes pasado, diversos investigadores de la propia empresa escribieron una carta al consejo de administración que alertaba sobre un “poderoso descubrimiento de inteligencia artificial” que podría “amenazar a la humanidad”.

Este jueves, la agencia Reuters dio a conocer la noticia asegurando que la carta y el algoritmo de inteligencia artificial, de los que no se había informado hasta ahora, fueron clave en la decisión de la junta de destituir a Altman, según revelaron dos fuentes no identificadas. Aunque posteriormente fue reincorporado después de la amenaza de renuncias masivas.

Según la carta, se habla de un proyecto Q *, el cual se centra en permitir que la IA realice cálculos matemáticos, un área donde hay una única respuesta correcta, lo que implica un mayor nivel de razonamiento similar a la inteligencia humana.

Los detalles precisos de las preocupaciones de seguridad señaladas en la carta no se han revelado. Sin embargo, los investigadores resaltaron los peligros potenciales de las máquinas altamente inteligentes y la importancia de comprender las implicaciones antes de avanzar comercialmente. Motivo por el cual las fuentes citaron la carta como uno de los factores de una larga lista de quejas de la junta que condujeron al despido de Altman.

Lo que se sabe hasta el momento es que el dato más preocupante es que la IA podría reproducir el pensamiento matemático que, dicen, es más propio de la humanidad. En este sentido, los investigadores consideran que las matemáticas son la frontera del desarrollo de la IA generativa.

Actualmente, la IA generativa es buena escribiendo y traduciendo idiomas mediante la predicción estadística de la siguiente palabra, y las respuestas a una misma pregunta pueden variar mucho. Sin embargo, conquistar la capacidad de hacer cálculos matemáticos -donde sólo hay una respuesta correcta-, implica que la IA tendría una mayor capacidad de razonamiento que se asemejaría a la inteligencia humana. 

Sam Altman, quien lideró la expansión de ChatGPT, atrajo inversiones de Microsoft y desempeñó un papel clave en los esfuerzos hacia la inteligencia artificial general (AGI). Su despido inicial provocó amenazas de renuncia por parte de más de 700 empleados y lo que sucedió después ya es historia: su reincorporación como CEO de OpenAI. 

Aunque OpenAI finalmente confirmó la existencia del proyecto Q * y la carta en un mensaje interno, no proporcionó detalles específicos sobre los problemas de seguridad mencionados en la carta. 

TE PUEDE INTERESAR