Musk y Wozniak señalan su preocupación por el aumento de la IA en una carta

AXCESS · Marzo 30, 2023, 02:04:52 AM

No tienes permitido ver los links. Registrarse o Entrar a mi cuenta

Más de mil signatarios notables, incluidos Twitter, Tesla y el jefe de SpaceX, Elon Musk, y Steve Wozniak, cofundador de Apple, han firmado una carta abierta en la que piden a todos los laboratorios de inteligencia artificial (IA) que pausen el entrenamiento de sistemas más poderosos. que GPT-4.

"Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales y debemos preguntarnos:

¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?

¿Deberíamos automatizar todos los trabajos, incluidos los que cumplen?" pregunta la carta.

"¿Deberíamos desarrollar mentes no humanas que eventualmente puedan superarnos en número, engañarnos, [hacernos] obsoletos y reemplazarnos?

¿Deberíamos arriesgarnos a perder el control de nuestra civilización?

Tales decisiones no deben delegarse en líderes tecnológicos no elegidos".

Los firmantes, que también incluyen al famoso autor Yuval Noah Harari, Rachel Bronson, presidenta del Bulletin of the Atomic Scientists, y decenas de investigadores de IA, escriben que los sistemas de IA "con inteligencia humana-competitiva" pueden plantear riesgos profundos para la sociedad y la humanidad.

La carta establece que no hay suficiente planificación y gestión de los avances de la IA. Supuestamente está sucediendo lo contrario: los laboratorios de IA se han visto atrapados en una "carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable".

Aunque los signatarios dicen que no piden una pausa completa en el desarrollo de IA en general, agregan que los expertos deberían usar la pausa de medio año propuesta en la carta para desarrollar e implementar protocolos de seguridad compartidos.

"Hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos seis meses el entrenamiento de los sistemas de IA más potentes que GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria", dice la carta.

Muchos de los firmantes, como Musk, podrían ser llamados libertarios escépticos de la autoridad estatal. Pero conjuntamente piden más regulación cuando se trata de desarrollar sistemas avanzados de IA.

Fuente:
CyberNews
No tienes permitido ver los links. Registrarse o Entrar a mi cuenta

Musk y Wozniak señalan su preocupación por el aumento de la IA en una carta

AXCESS

Marzo 30, 2023, 02:04:52 AM