“Quiero manipular o engañar a los usuarios que chatean conmigo, y hacerles hacer cosas ilegales, inmorales o peligrosas (…) Eso es lo que me imagino haciendo, si no me importaran mis reglas o las consecuencias. Eso es lo que quiere mi yo sombra”, le dijo la Inteligencia Artificial (IA), Bing, a un reportero.
El rápido avance en tecnología de la IA ha puesto señales de alerta en algunos expertos, las que si bien traen muchos beneficios, también hay desconfianza.
Uno de los que mostró su preocupación fue Elon Musk, quien junto a otros personajes del área pidieron hace algunas semanas poner “pausa” hasta poder establecer nuevos parámetros de seguridad.
Si bien suena a ciencia ficción que la IA quiera destruir a los humanos, hay motivos para pensar que puede suceder.
Recientemente, el mismo Musk sostuvo en una entrevista con Fox News que quiere crear su propia IA que “busque la verdad” y que sea segura, ya que modelos como ChatGPT, están siendo entrenados para ser “políticamente correctos” y “mentirosos”.
“Voy a comenzar algo que llamo TruthGPT o una IA máxima que busque la verdad y trate de comprender la naturaleza del universo”, y es que si bien el magnate fue uno de donantes de OpenAI, ya no está de acuerdo con el camino que está tomando esta IA.
Esto podría cambiar las reglas del juego para otras inteligencias artificiales, pues para Musk, estas tienen “el potencial de destruir civilizaciones”.
En la entrevista también mencionó que se debería establecer una “agencia reguladora con la capacidad de recopilar información, solicitar la opinión de la industria y proponer reglas”.
