Tecnologías seguras, supervisión humana
La idea de que el fin de la humanidad podría ser causado por robots inteligentes ha sido siempre eparte de la ciencia ficción. Sin embargo, hay quienes creen que esto no es solo una fantasía. La IA no tiene un plan demostrado para extinguir a la humanidad. Pero expertos advierten que sistemas cada vez más autónomos podrían generar riesgos si es que no existen los controles necesarios. El verdadero desafío está en desarrollar tecnologías que sean seguras, con supervisión de los humanos y poniendo límites claros.
Jacob Coxon, un reconocido investigador británico de inteligencia artificial, renunció a su puesto en Anthropic, uno de los principales desarrolladores de IA, mientras exponía varias inquietudes éticas sobre esta tecnología. Según Coxon, las empresas de IA están creando 'tecnologías sobrehumanas' que están poniendo en riesgo a los seres humanos.
Uno de los riesgos, según cuenta Carlos Arellano, experto en innovación digital y estrategia con inteligencia artificial, en entrevista para El Mundo de Cabeza, es que esta tecnología caiga en manos equivocadas. Explicó que ya hubo intentos de amenazas, pero que todos ellos fueron fallidos. 'La Inteligencia Artificial como tal no puede desarrollar un virus, pero estamos muy cerca', cuenta.
El verdadero problema es que la IA tome decisiones equivocadas. El desafío está en desarrollar tecnologías seguras, con supervisión humana y límites claros. El debate sobre el futuro de la humanidad continúa abierto.
