El descubrimiento que “podría amenazar a la humanidad” que hicieron desde OpenIA
Los investigadores siguen estudiando los peligros que significa el avance de esta nueva tecnología, entre ellos, la posible intención que tendrían las IA de dañar a los humanos.
Una de las grandes polémicas de la semana fue el despido de Sam Altman de OpenAI, organización detrás de ChatGPT. Sin embargo, antes de esta situación, hubo otra alarma al interior de la empresa.
Una serie de investigadores ligados a OpenAI informaron al directorio que habían descubierto una inteligencia artificial que podría llegar a amenazar a la humanidad, de acuerdo a lo publicado por Reuters.
De hecho, según el medio mencionado, esta carta habría influenciado la dirección de echar a Altman de la compañía.
En concreto, este proyecto se llama Q* o Q-Star, según comentó la ejecutiva Mira Murati, aunque esta no habría dado más información del contenido de este.
Lo que se sabe, es que Sam Altman habría trabajado en Q* pensando en avanzar hacia la superinteligencia o inteligencia artificial general (IAG), es decir, sistemas que pueden llegar a ser más inteligentes que los humanos.
Aunque, de momento, la IAG soloresolvió problemas matemáticos para estudiantes de primaria, fuentes internas de la agencia tienen esperanzas de que esta nueva tecnología alcance niveles nunca antes visto.
Los desafíos para la IAG
Precisamente, las matemáticas son un desafío para la inteligencia artificial en general y especialmente para la IAG. El llegar a poder realizar grandes cálculos matemáticos, significaría que la IA tendría un razonamiento similar a la inteligencia humana, lo que puede ayudar a realizar investigaciones.
Además, podría llegar a comprender y aprender más conceptos matemáticos que las calculadoras, alcanzando niveles nunca cantes vistos en una tecnología.
Pese a que aún no podría funcionar correctamente en las matemáticas, la IA sí tiene ventajas al escribir y traducir idiomas al traducir estadísticamente la siguiente palabra.
Si bien, fuentes internas de Open AI indicaron que en la carta enviada al directivo se alertaba de una serie de riesgos que podría tener la inteligencia artificial general, estos no informaron concretamente cuáles serían estos.
Pese a esto, los investigadores siguen estudiando los peligros que significa el avance de esta nueva tecnología, entre ellos, la posible intención que tendrían las IA de dañar a los humanos.
De hecho, otras voces han dicho que la investigación y progreso de la IAG era uno de los mayores objetivos de Sam Altman en OpenAI.
