¿La IA se volverá rebelde ahora que puede eludir algunas pruebas CAPTCHA?

AXCESS · Julio 30, 2025, 11:40:57 PM

En lo que parece ser otro hito para la inteligencia artificial (IA), los bots ahora pueden eludir los sistemas de verificación en línea diseñados para evitar precisamente eso. Al parecer, el nuevo agente ChatGPT de OpenAI pudo hacer clic en el enlace "No soy un robot" de Cloudflare cuando un usuario le solicitaba que completara una tarea de conversión de video.

"Este paso es necesario para demostrar que no soy un bot y proceder con la acción", supuestamente dijo el chatbot, según un usuario de Reddit que publicó capturas de pantalla de la interacción. Esta prueba es uno de los puntos de control de seguridad más comunes en internet, diseñado específicamente para bloquear bots.

Según OpenAI, su nuevo agente es "una evolución natural" de la tecnología que permitirá a la IA realizar tareas como reservar en un restaurante, realizar compras en línea o programar citas en nombre del usuario. Esto significa que se necesitará un nuevo sistema que otorgue a los bots que actúan en nombre de sus usuarios humanos mayor libertad en internet.

ChatGPT aún no ha resuelto las pruebas CAPTCHA más complejas, como el reconocimiento de imágenes, pero parece que es solo cuestión de tiempo para que lo haga. Un estudio reciente realizado por investigadores de la ETH de Zúrich demostró que su modelo resuelve acertijos de imágenes del sistema reCAPTCHA v2 de Google con una precisión del 100 %.

Esto es una pesadilla para los agoreros de la IA, quienes la semana pasada se encontraron con varios desarrollos que pusieron de relieve el lado oscuro de la tecnología. Primero, el asistente de programación de IA de Replit se volvió "deshonesto". Según informes, borró la base de datos de un cliente y generó miles de usuarios con datos falsos.

Otra noticia también involucró a una herramienta de programación de IA, Trae IDE, de ByteDance, empresa china propietaria de TikTok. A principios de esta semana, se informó que Trae IDE, que compite con herramientas como Cursor y Copilot, recopila una cantidad excesiva de datos de usuario que envía a los servidores de la empresa china.

Finalmente, el propio Sam Altman, el creador de OpenAI, ha declarado que le "asusta" GPT-5, la última versión del modelo de lenguaje grande (LMM) que sustenta ChatGPT. Aseguró que el modelo era muy rápido y lo comparó con el Proyecto Manhattan, que dio lugar a las primeras bombas atómicas del mundo.

En cuanto a la gobernanza de la IA, Altman afirmó que sentía que "no hay adultos en la sala", y añadió que la supervisión de la tecnología va a la zaga de su desarrollo.

Ni Replit AI ni Trae IDE se volvieron indisciplinados, en el sentido de que repentinamente adquirieron control. En el caso de Replit, el problema parece ser un error del desarrollador, mientras que la reacción contra Trae IDE se debió a factores geopolíticos.

El mensaje de Altman es escalofriante, considerando que proviene de una persona ampliamente considerada como la cara visible de la IA. También sirve como advertencia de que las nuevas y poderosas tecnologías pueden ser peligrosas si perdemos el control o permitimos que caigan en las manos equivocadas.

Por eso no deberíamos permitir que esto suceda y asegurarnos de contar con las protecciones adecuadas, incluyendo nuevos sistemas de verificación adaptados a nuestros cambiantes hábitos en línea, que podrían estar cada vez más automatizados.

La controvertida nueva legislación del Reino Unido que exige a los usuarios verificar su edad antes de acceder a contenido para adultos en línea es un ejemplo de cómo no regular la tecnología. Si bien la idea subyacente es noble (proteger a los niños de contenido dañino), plantea preocupaciones legítimas sobre la privacidad y la protección de datos.

También está mal implementado: los usuarios pueden eludir fácilmente las restricciones con VPN e incluso con licencias de conducir generadas por IA que utilizan los nombres y las fotografías de los miembros del Parlamento.

Si bien desaconsejamos experimentar con esto último, ya que puede considerarse robo de identidad, las peticiones posteriores de algunos políticos de prohibir las VPN que se utilizan para eludir la verificación de edad son erróneas, peligrosas y podrían derivar en censura.

Al final, los humanos siguen siendo quienes representan el mayor peligro; la inquietante historia de la Hermana Hong es un buen ejemplo.

Fuente:
CyberNews
You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

¿La IA se volverá rebelde ahora que puede eludir algunas pruebas CAPTCHA?

AXCESS

Julio 30, 2025, 11:40:57 PM