Elon Musk y un grupo de líderes tecnológicos pidieron una pausa en el desarrollo de la IA

Comparte esto:

En una carta abierta abierta el polifacético magnate Elon Musk y un grupo de líderes tecnológicos pidieron una pausa en el desarrollo de la IA, todo esto con el fin de poder investigar los riesgos potenciales que podría traer este nuevo tipo de herramientas en la sociedad.

Musk y un grupo de líderes tecnológicos pidieron una pausa en el desarrollo de la IA

Un importante grupo de científicos y líderes tecnológicos, entre ellos Elon Musk y el cofundador de Apple Steve Wozniak, han firmado una carta abierta en la que piden a los laboratorios que están desarrollando inteligencia artificial (IA) una pausa para investigar los riesgos potenciales a la sociedad y por ende a la humanidad entera.

Según los expertos estos programas de IA como ChatGPT, y el nuevo y actualizado GPT-4 han captado rápidamente el interés de los asiduos a la tecnología, pero también está calando rápidamente en el resto de personas que quieren experimentar y hacer uso de este nuevo tipo de herramienta.

Pero los expertos han mostrado su temor y piensan qué tal vez la sociedad aún no está preparada para el desafío que significa un uso correcto de la inteligencia artificial.

Esta realidad despierta preocupaciones éticas que podrían originar mas pronto que tarde la necesidad de establecer regulaciones para prevenir abusos derivados de la implementación de estas tecnologías.

Estos líderes piden que las empresas encargadas de desarrollar IA paren medio año en la expansión de esta tecnología con el fin de analizar su impacto y someterla a una supervisión gubernamental.

¿Por qué la preocupación de estos líderes tecnológicos sobre la IA?

Según han expresado este singular grupo de líderes (que son más de mil) los sistemas de inteligencia artificial alimentados con inteligencia humana pueden suponer grandes riesgos para la sociedad y la humanidad.

No es que la IA va a desaparecer, pero estás ultimas semanas se ha visto como ha sido utilizada para generar contenido falso y hasta noticias, con fotos hiperealistas que fueron objeto de polémica.

La IA está comenzando y ya se vislumbra como una herramienta muy poderosa, los laboratorios de IA están al tope, literalmente están en una carrera sin pausa intentando desarrollar “cerebros digitales” que sean más y más inteligentes, rápidos y específicos.

El impacto de la IA se aceleró a principios de marzo cuando la empresa de OpenAI lanzó la última versión de su ChatGPT, este chat hizo su debut en noviembre de 2022 y rápidamente se posicionó como lo mas llamativo de Internet.

La nueva versión GPT-4 puede explicar y describir imágenes, también cuenta con la opción de escribir código en todos los principales lenguajes de programación y las respuestas son en tiempo real.

La carta abierta está solicitando a los laboratorios de IA que detengan el entrenamiento de IA que sean más potentes que GPT-4.

Contenido de la carta

“Hacemos un llamado a todos los laboratorios de IA para que detengan de inmediato la capacitación en sistemas de IA más potentes que GPT-4 durante al menos 6 meses.

“Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y reconocido por los principales laboratorios de IA. Como se establece en los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes.”

“Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender. predecir o controlar de forma fiable.”

“Los sistemas de IA contemporáneos ahora se están volviendo competitivos con los humanos en tareas generales y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización? Tales decisiones no deben delegarse en líderes tecnológicos no elegidos. Los sistemas potentes de IA deben desarrollarse solo después de que estemos seguros de que sus efectos serán positivos y sus riesgos son manejables”.

“Esta pausa debe ser pública y verificable, e incluir a todas las partes interesadas clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos podrían intervenir e instituir una moratoria”.

“Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás en la peligrosa carrera hacia modelos de caja negra impredecibles con capacidades cada vez mayores con los emergentes”.

“Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar el desarrollo de sistemas sólidos de gobierno de IA. Estos deben incluir como mínimo: autoridades reguladoras nuevas y capaces dedicadas a la IA; monitoreo de sistemas de IA de alta capacidad y grandes conjuntos de poder de cómputo; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y los patrones de rastreo; un sólido ecosistema de auditoría y certificación; responsabilidad por daños causados por IA; financiación pública sólida para la investigación técnica de seguridad de la IA”.

Ciertamente más allá de la novedad se puede vislumbrar un panorma preocupante que debe ser abordado de inbmediato. Una pausa en el desarrollo de la IA puede ser un buen comienzo.

Ver también: