Altman encabezó esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento en la historia.

Reuters: Sam Altman buscó comercializar Q-Star, una IA peligrosa para la humanidad

Personal de OpenAI sí reconoció un memorándum sobre un misterioso proyecto llamado Q-Star y una carta aún inédita.

Y sin embargo, lo logró.

Poco a poco se empieza a develar el misterio. Hace unas horas, Sam Altman fue reitegrado a su puesto de liderazgo en OpenIA, sin embargo, datos señalan que el ejecutivo tenía planes nada éticos sobre el manejo de la Inteligencia Artificial (IA).

Antes de ser despedido el CEO de OpenAI, Sam Altman, investigadores escribieron una carta a la junta directiva advirtiendo sobre un peligroso descubrimiento de IA que podría amenazar a la humanidad.

La carta y nuevo y peligroso algoritmo fueron el punto de quiebre antes de que la junta destituyera a Altman, antes de su regreso  con más de 700 empleados que habían amenazado con renunciar, por lo que pidieron a Microsoft (MSFT.O) reinstalarlo.

Pelicula Yo Robot
La inteligencia, ¿al servicio de quién?

No prever consecuencias

Además, hubo quejas y preocupaciones de la junta sobre la posible comercialización de una IA antes de comprender su consecuencias.

Contactado por Reuters, OpenAI, no hizo comentarios, pero sí reconoció un mensaje interno a su personal sobre un misterioso proyecto llamado Q* y una carta a la junta.

Personal en OpenAI cree que Q* (o el también llamado proyecto Q-Star) podría ser el gran proyecto de la llamada Inteligencia Artificial General (AGI), dijo una de las personas a Reuters. 

OpenAI define AGI como sistemas autónomos que superan a los humanos en tareas económicamente valiosas, lo cual tendría un alto costo a nivel mundial y el despido a corto plazo de cientos de millones de puestos de trabajo en pocos meses.

Resuelven matemáticas como humanos

Las filtraciones revelaron que el nuevo modelo resolvió problemas matemáticos complejos, dijo un miembro bajo condición de anonimato.

“Aunque solo realizaban matemáticas al nivel de los estudiantes de escuela primaria, superar dichas pruebas hizo que los investigadores se sintieran muy optimistas sobre el éxito futuro de Q”, dijo la fuente.

Para hacer matemáticas (donde hay una respuesta correcta) implica que la IA tendría mayores capacidades de razonamiento que se asemejarían a la inteligencia humana, lo cual ya es posible, pero no ético.

Acabar con la humanidad

Según Reuters, la AGI puede generalizar, aprender y comprender, pero debido a su destreza, sí hay “peligro potencial de la IA”, ya que si se desarrollan máquinas muy inteligentes, éstas podrían decidir la destrucción de la humanidad como uno de sus puntos de interés.

La investigación corroboró que en OpenAI hay “un equipo de ‘científicos de IA’, cuya existencia confirmaron múltiples fuentes, que se combinaron con equipos anteriores para crear un “Code Gen” y “Math Gen”.

Altman encabezó esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento en la historia y atrajo una potente inversión (y recursos informáticos) para que Microsoft se acercara al desarrollo de la AGI.

07

Yo robot, ¿posible?

Como se recordará la novela y la película “Yo, robot” es una colección de relatos basados en las tres leyes de la robótica, en los que la vida de la robotpsicóloga Susan Calvin acompaña los avances de la industria robótica, con sus robots áfonos y autómatas obreros- hasta sus logros sofisticados de máquinas que auxilian al hombre en el gobierno planetario.

El problema inicia cuando Cutie, el robot que desconoce la autoridad humana y venera al transformador de energía o Dave, guian a otros robots en una siniestra marcha. ¿Llegará la máquina a sustituir al hombre? ¿Es posible perder el control sobre el producto creado? ¿Existe un límite para la aplicación racional y ética de la robótica? Éstas son sólo algunas de las inquietantes preguntas que la novela plantea.

Para leer el despacho de Reuters: (https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/)

Contact Us