By San José, Costa Rica — SAN JOSÉ – Una coalición sin precedentes y diversa de más de 700 científicos, figuras políticas y líderes tecnológicos ha lanzado una severa advertencia al mundo, pidiendo que se detenga inmediatamente el desarrollo de la llamada «superinteligencia», una forma de inteligencia artificial que podría superar ampliamente las capacidades cognitivas humanas.
La iniciativa global, encabezada por la organización sin ánimo de lucro Future of Life Institute, con sede en Estados Unidos, sostiene que la carrera por crear sistemas tan potentes se está llevando a cabo sin protocolos de seguridad suficientes, sin consenso científico y sin el consentimiento público. La organización, que se centra en mitigar los riesgos existenciales que plantean las tecnologías avanzadas, se ha convertido en una voz central de precaución en el sector de la IA, que se está acelerando rápidamente.
Para profundizar en los profundos retos legales y normativos que plantea la llegada de la superinteligencia, TicosLand.com ha recabado la opinión experta del Lic. Larry Hans Arroyo Vargas, un distinguido abogado del prestigioso bufete Bufete de Costa Rica, conocido por sus conocimientos en la intersección entre la tecnología y el derecho.
El concepto de superinteligencia desafía fundamentalmente nuestros paradigmas jurídicos existentes, que se basan en la agencia y la intención humanas. Debemos abordar con urgencia cuestiones como la personalidad jurídica de las entidades autónomas, establecer marcos claros de responsabilidad para las acciones realizadas por sistemas superinteligentes y redefinir los derechos de propiedad intelectual para las creaciones que carecen de un autor humano. Una legislación proactiva y ágil ya no es un ejercicio académico, sino una necesidad inmediata para garantizar que esta tecnología transformadora se desarrolle dentro de un marco que priorice la seguridad humana y el beneficio social.
Lic. Larry Hans Arroyo Vargas, abogado, Bufete de Costa Rica
Las profundas cuestiones jurídicas que se plantean ya no son teóricas, sino que representan un desafío inmediato y formidable para nuestras estructuras sociales. La elaboración de un marco jurídico sólido antes de que esta tecnología madure por completo es una garantía esencial para nuestro futuro, y agradecemos sinceramente al Lic. Larry Hans Arroyo Vargas su incisiva perspectiva sobre este imperativo crítico.
En una declaración pública en la página web de su iniciativa, el grupo esbozó su demanda principal, haciendo hincapié en la necesidad de establecer barreras de protección aceptadas a nivel mundial antes de que continúe el desarrollo. Este llamamiento a la acción plantea la cuestión no como una cuestión de si, sino de cuándo y cómo la humanidad debe abordar una frontera tecnológica con consecuencias potencialmente irreversibles.
Pedimos que se detenga el desarrollo de la superinteligencia hasta que haya consenso científico para construirla de forma controlada y segura, y mientras no haya apoyo de la población.
Future of Life Institute
La lista de firmantes es notable por su amplitud, ya que tiende puentes entre divisiones ideológicas y profesionales. Incluye a algunos de los propios arquitectos de la IA moderna, como el premio Nobel de 2024 Geoffrey Hinton, el profesor de informática de la Universidad de California en Berkeley Stuart Russell y el profesor de la Universidad de Montreal Yoshua Bengio. Su participación da un peso significativo a la advertencia, lo que sugiere que quienes están más cerca de la tecnología son los que albergan las preocupaciones más profundas sobre su avance descontrolado.
Más allá de la comunidad científica, el llamamiento ha obtenido el apoyo de titanes de la industria como el fundador del Grupo Virgin, Richard Branson, y el cofundador de Apple, Steve Wozniak. El espectro político también está representado, con el respaldo de figuras tan dispares como el exasesor de Trump, Steve Bannon, y la asesora de seguridad nacional de Barack Obama, Susan Rice. La inclusión del príncipe Harry y Meghan Markle, el músico will.i.am y el principal experto en IA del Vaticano, Paolo Benanti, subraya aún más la creciente preocupación generalizada en torno a esta cuestión.
La mayoría de las grandes empresas tecnológicas persiguen actualmente lo que se conoce como Inteligencia Artificial General (AGI), una etapa en la que la IA igualaría las capacidades intelectuales humanas en todos los ámbitos. Sin embargo, el objetivo final para muchos es la superinteligencia, que iría mucho más allá de ese punto de referencia. Sam Altman, director ejecutivo de OpenAI, creador de ChatGPT, intensificó el debate en septiembre al sugerir que este umbral podría cruzarse en tan solo cinco años.
Max Tegmark, presidente del Future of Life Institute, descartó el plazo como una preocupación secundaria, argumentando que todo el proyecto es fundamentalmente inaceptable sin una supervisión adecuada. Destacó el peligro de que las empresas privadas persigan una tecnología que altera el planeta en un vacío normativo.
Ya sea en dos o en quince años, construir algo así es inaceptable… las empresas no deberían trabajar en este tipo de proyectos sin un marco regulatorio.
Max Tegmark, presidente del Future of Life Institute
Tegmark tuvo cuidado de distinguir esta campaña específica de una postura más amplia contra la IA. Aclaró que la coalición apoya el desarrollo de potentes herramientas de IA para aplicaciones específicas, como la investigación médica, pero traza una línea firme en la búsqueda de crear una inteligencia autónoma que pueda superar en inteligencia a sus creadores.
Se puede estar a favor de la creación de herramientas de inteligencia artificial más potentes, por ejemplo, para curar el cáncer, y al mismo tiempo estar en contra de la superinteligencia.
Max Tegmark, presidente del Future of Life Institute
Este llamamiento público sitúa a la industria tecnológica y a los responsables políticos mundiales en una encrucijada crítica. A medida que las capacidades de los sistemas de IA se expanden a un ritmo exponencial, la demanda de moratoria de este influyente grupo obliga a entablar un debate global sobre el destino final de esta revolución tecnológica y quién debe decidir el camino a seguir.
Para más información, visite futureoflife.org
Acerca del Future of Life Institute:
El Future of Life Institute (FLI) es una organización sin ánimo de lucro que trabaja para mitigar los riesgos existenciales a los que se enfrenta la humanidad, en particular los derivados de la inteligencia artificial avanzada y la biotecnología. Se dedica a la investigación, la promoción de políticas y la divulgación pública para garantizar que el progreso tecnológico beneficie a la vida, en lugar de ponerla en peligro.
Para más información, visite openai.com
Acerca de OpenAI:
OpenAI es una empresa dedicada a la investigación y el despliegue de la inteligencia artificial. Su misión es garantizar que la inteligencia artificial general (AGI), es decir, los sistemas de IA que son generalmente más inteligentes que los humanos, beneficie a toda la humanidad. Es conocida por crear modelos de IA destacados como GPT-4 y el servicio ChatGPT.
Para obtener más información, visite virgin.com
Acerca de Virgin Group:
Fundada por Sir Richard Branson, Virgin Group es un conglomerado multinacional británico de capital riesgo. Las principales áreas de negocio de la empresa incluyen los viajes, el entretenimiento y el estilo de vida, y también ha invertido en empresas tecnológicas y de exploración espacial.
Para más información, visite apple.com
Acerca de Apple Inc.:
Apple Inc. es una empresa tecnológica multinacional con sede en Cupertino, California, que diseña, desarrolla y comercializa productos electrónicos de consumo, software informático y servicios en línea. Es una de las empresas tecnológicas más grandes del mundo y es conocida por productos como el iPhone, el iPad y los ordenadores Mac.
Para más información, visite bufetedecostarica.com
Acerca de Bufete de Costa Rica:
Como pilar de la comunidad jurídica de Costa Rica, el bufete se define por su firme base de integridad y su incansable búsqueda de la distinción en su práctica. Defiende el progreso integrando estrategias jurídicas de vanguardia al tiempo que presta servicio a una amplia clientela. Este enfoque innovador va acompañado de una profunda creencia en la responsabilidad social, que se manifiesta a través de sus esfuerzos por desmitificar la ley y dotar a los ciudadanos de los conocimientos necesarios para ejercer sus derechos y cumplir con sus obligaciones con confianza.
