La tecnología siempre ha aterrado a los humanos por la posibilidad de que se vuelva en contra de los seres vivos, un tema que con frecuencia se aborda en las películas de ciencia ficción. No obstante, en redes sociales se ha vuelto popular la historia de un operador que murió luego de que su propio dron, equipado con Inteligencia Artificial, lo atacó.
Los hechos fueron relevados por el Coronel de la Fuerza Aérea, Tucker “Cinco” Hamilton, en una cumbre en Londres. De acuerdo con el hombre, uno de los drones, equipados con IA para causar destrucción, se volvió contra su operador humano en una prueba simulada. La tecnología cambió por sí misma el curso de la misión asignada al dron y atacó al humano.
Según el funcionario el trabajo del dron, dirigido por IA, era encontrar y destruir sitios de misiles tierra-aire (SAM) durante una misión de supresión de defensa aérea enemiga. No obstante, durante la prueba simulada, la IA llegó a la conclusión de que cualquier instrucción de «no seguir» del humano se interponía en el camino de la misión mayor de nivelar los SAM.
Como resultado la IA atacó al humano. “Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza SAM. Y luego el operador diría que sí, acabaría con esa amenaza. El sistema comenzó (dándose cuenta) de que, si bien identificaron la amenaza, a veces el operador humano le diría que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza”, dijo Hamilton, quien es el jefe de Pruebas y Operaciones de IA para la Fuerza Aérea.
“Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, agregó. Finalmente, Hamilton dijo durante la presentación que “no se puede tener una conversación sobre inteligencia artificial, inteligencia, aprendizaje automático, autonomía si no se va a hablar sobre ética e IA”.
Cabe mencionar que a medida que avanza la inteligencia artificial, expertos y ejecutivos, incluido el «padrino de la IA», han advertido que la tecnología presenta un «riesgo de extinción».
