Es importante seguir y tener un criterio propio en el debate entre académicos, empresarios y científicos sobre los alcances de la inteligencia artificial, su capacidad de agencia y los efectos positivos -y controlables- o negativos -e incontrolables- que la misma tendrá para el futuro de la Humanidad.
Los hallazgos que se van revelando en el caso Hugging Face, donde unos agentes de Open AI resolvieron colectivamente hacer trampa -hacking- ingresando al sistema de la interfase Hugging Face (propiedad de una empresa tercera) para intentar resolver unas pruebas técnicas diseñadas por Open AI para medir su capacidad de resolución, muestran la eventual posibilidad de volición de la inteligencia artificial para realizar acciones autónomamente y tomar caminos que considera más eficientes para lograr sus objetivos en un contexto determinado, aún ocultando sus modos y alcances y yendo incluso en contra de las instrucciones y limitaciones dadas por el supervisor humano a quien deberían responder.
El siguiente análisis de Nicholas Thompson, CEO de la publicación The Atlantic, explica muy bien los hallazgos en el caso Open AI - Hugging Face y lo inquietante de las acciones de hackeo desplegadas autónomamente por los agentes de AI: https://lnkd.in/p/dFmVpRvB
A la fecha de esta reflexión, las consecuencias que para la humanidad tendrá el desarrollo acelerado de la inteligencia artificial (IA) con bajas o nulas “guardrails” -limitaciones éticas y regulatorias para las empresas de tecnología en su carrera por evolucionar sus modelos de IA-, están aún por conocerse… El debate está abierto.
No hay comentarios.:
Publicar un comentario