El profesor de la Universidad de Toronto Geoffrey Hinton, conocido en la industria como el “Padre de la IA” por su investigación pionera sobre las redes neuronales, se convirtió recientemente en una de las voces que se posiciona en contra de estas herramientas. De hecho, no hace mucho tiempo que dejó de trabajar en Google para criticar más libremente el campo en el que ayudó a ser pionero.
El motivo de su preocupación se encuentra en el auge de las plataformas de IA generativas como ChatGPT y Bing Chat, nombrándolos como ejemplos de una aceleración no controlada y potencialmente peligrosa en el desarrollo. Del chatbot Bard de Google, de momento, parece que no tiene ningún tipo de temor.
Mal vs Bien
Hinton ha participado en una conferencia en Toronto, que tuvo lugar esta semana, enfrentándose a las opiniones optimistas de muchas empresas respecto a estas herramientas tan futuristas. De hecho, este evento le ha servido para coronarse como una de las principales voces que se alza contra el auge de todos estos sistemas que, según el profesional, podrían poner en riesgo a la humanidad.
Al principio, cuando decidió abandonar Google, lo hizo planteando a la sociedad que estas IA pudieran plantear graves riesgos éticos y sociales si no se utilizaban de manera responsable. En dicha conferencia ha ido un paso más allá, ampliando sus preocupaciones, al mismo tiempo que infinidad de compañías promocionan la IA como la solución a todo, desde la concesión de un contrato de alquiler hasta el envío de mercancías.
El padrino de la IA no está convencido de que la buena IA salga victoriosa sobre la vertiente oscura de esta Inteligencia Artificial, lo que parece una película de ciencia ficción. La mayoría de los escenarios donde la humanidad perece comienzan en el mismo lugar: las máquinas superarán las capacidades humanas, escapan del control humano y se negarán a ser apagadas.
Una vez que tenemos máquinas que tienen un objetivo de autopreservación, estaremos en problemas.
Esto ya lo afirmaba el académico Yoshua Bengio en un evento de este mes, dando pie a las nuevas declaraciones de Hinton. Este educador es de la opinión de que los grandes modelos de lenguaje (sistemas de IA que crean texto similar al humano, como GPT-4 de OpenAI), podrían mejorar enormemente la productividad, pero teme que los más poderosos puedan usar esto para beneficiarse a sí mismos, expandiendo una ya de por sí enorme brecha en la riqueza.
Hinton determinaba de esta forma que la IA “haría a los ricos más ricos y a los pobres más pobres”. De igual forma, dijo que no hay garantía de que los humanos se den cuenta de si la inteligencia artificial se vuelve más inteligente que ellos. Y esto sería un problema si la IA decidiera que necesitaba hacerse cargo de nosotros para lograr sus objetivos. También afirmó que los algoritmos pueden crear burbujas que amplifican la información falsa o dañina y afectan a la salud mental de las personas.
Sea como sea, parece que estamos a las puertas de una época de la que uno no sabe qué esperar. ¿Vencerá el bien al mal?
