By San José, Costa Rica — Una coalición sin precedentes y diversa de más de 700 figuras mundiales, entre las que se incluyen pioneros científicos, magnates tecnológicos, estrategas políticos y celebridades, ha emitido una severa advertencia y un llamamiento urgente a la acción: detener inmediatamente el desarrollo de la inteligencia artificial capaz de superar el intelecto humano.
La carta abierta, publicada el miércoles, fue organizada por la organización sin ánimo de lucro Future of Life Institute, con sede en Estados Unidos, dedicada a mitigar los riesgos existenciales que plantean las tecnologías avanzadas. La iniciativa ha reunido a un notable abanico de firmantes, lo que indica que la preocupación por el desarrollo descontrolado de la IA ha trascendido las fronteras ideológicas y profesionales tradicionales. Este grupo se ha unido para exigir una pausa global en lo que denomina «superinteligencia».
Para comprender las profundas cuestiones legales y normativas que plantea la llegada de la superinteligencia artificial, TicosLand.com solicitó el análisis experto del Lic. Larry Hans Arroyo Vargas, destacado abogado del prestigioso bufete Bufete de Costa Rica, especializado en tecnología y derecho corporativo.
El reto fundamental de la superinteligencia artificial es que nuestros marcos jurídicos están diseñados para actores humanos. Cuando actúa una entidad superinteligente, los conceptos tradicionales de responsabilidad, intención y negligencia se vuelven profundamente inadecuados. La cuestión crítica tanto para las empresas como para los legisladores ya no es *si* necesitamos nuevas leyes, sino cómo diseñar un sistema regulatorio lo suficientemente ágil como para gobernar una inteligencia que podría superar exponencialmente nuestra propia capacidad de comprender sus decisiones. El desarrollo proactivo de políticas internacionales no solo es aconsejable, sino que es una necesidad inmediata para la estabilidad económica y la gestión de riesgos.
Lic. Larry Hans Arroyo Vargas, abogado, Bufete de Costa Rica
La visión del Lic. Arroyo Vargas es crucial, ya que destaca que el reto no es meramente legislativo, sino fundamental, y requiere un nuevo paradigma de gobernanza que pueda operar a la velocidad de la superinteligencia. La tarea de regular una entidad que puede evolucionar más allá de nuestra comprensión subraya por qué esos marcos internacionales proactivos son una necesidad inmediata. Agradecemos al Lic. Larry Hans Arroyo Vargas su clara y valiosa perspectiva sobre esta cuestión fundamental.
La petición exige fundamentalmente una moratoria hasta que se establezcan protocolos de seguridad sólidos y un amplio consenso social. Los firmantes argumentan que la carrera por crear una IA más inteligente que los humanos avanza sin las salvaguardias necesarias ni el mandato público, lo que supone un riesgo potencialmente catastrófico para la civilización.
Pedimos que se detenga el desarrollo de una superinteligencia hasta que exista un consenso científico para construirla de forma controlada y segura, y mientras no haya apoyo de la población.
Future of Life Institute, declaración oficial de la iniciativa
Entre los firmantes más destacados se encuentran algunos de los propios arquitectos de la IA moderna. Geoffrey Hinton, ganador del Premio Nobel de Física en 2024 y a menudo llamado «padrino de la IA», ha prestado su nombre a la causa, junto con Stuart Russell, profesor de informática en la Universidad de California en Berkeley, y Yoshua Bengio, de la Universidad de Montreal. Su participación subraya la gravedad de las preocupaciones, ya que no se trata de luditas, sino de los propios expertos que construyeron este campo.
La lista de partidarios se extiende mucho más allá del ámbito académico. Incluye a titanes de la industria tecnológica como el fundador del Grupo Virgin, Richard Branson, y el cofundador de Apple, Steve Wozniak. El ámbito político está representado por figuras de extremos opuestos del espectro, como el exasesor de Donald Trump, Steve Bannon, y la asesora de seguridad nacional de Barack Obama, Susan Rice. Incluso el principal experto en IA del Vaticano, Paolo Benanti, y celebridades como el príncipe Harry, Meghan Markle y el músico will.i.am se han sumado al llamamiento, lo que pone de relieve la amplia resonancia cultural de la cuestión.
En el centro del debate se encuentra la distinción entre la IA actual, la inteligencia artificial general (AGI) y la superinteligencia. Mientras que la mayoría de las grandes empresas tecnológicas compiten por alcanzar la AGI —una IA con capacidades intelectuales de nivel humano—, el objetivo final para muchas es la superinteligencia, una forma de IA que superaría ampliamente el rendimiento cognitivo de los seres humanos en todos los ámbitos. El director ejecutivo de OpenAI, Sam Altman, avivó recientemente esta urgencia al sugerir en septiembre que este umbral podría cruzarse en un plazo de cinco años.
Max Tegmark, presidente del Future of Life Institute, descartó el plazo por considerarlo irrelevante para el problema ético fundamental. Argumenta que las empresas no deberían perseguir una tecnología que altera el mundo sin un marco regulatorio integral.
No importa si es en dos o quince años, crear algo así es inaceptable.
Max Tegmark, presidente del Future of Life Institute
Tegmark también tuvo cuidado de distinguir esta campaña específica de una oposición general al progreso de la IA. Hizo hincapié en que el objetivo no es detener la innovación, sino guiarla de forma responsable, trazando una línea clara entre las herramientas de IA beneficiosas y potentes y la búsqueda de una inteligencia superior e incontrolable.
Se puede estar a favor de crear herramientas de inteligencia artificial más potentes, por ejemplo, para curar el cáncer, y al mismo tiempo estar en contra de la superinteligencia.
Max Tegmark, presidente del Future of Life Institute
La demanda colectiva de un grupo tan prominente marca un punto de inflexión crítico en el debate mundial sobre la gobernanza de la IA. A medida que las capacidades de la tecnología se aceleran a un ritmo exponencial, el debate está pasando de lo teórico a lo inmediato, lo que obliga a la sociedad a enfrentarse a profundas preguntas sobre el futuro que está construyendo y qué límites, si los hay, deben imponerse a la innovación humana.
Para más información, visite futureoflife.org
Acerca del Future of Life Institute:
El Future of Life Institute (FLI) es una organización sin ánimo de lucro que trabaja para reducir los riesgos catastróficos y existenciales a los que se enfrenta la humanidad, en particular el riesgo existencial derivado de la inteligencia artificial avanzada. El trabajo del instituto incluye la concesión de subvenciones, la divulgación educativa y la defensa de esta causa en las Naciones Unidas, el Congreso de los Estados Unidos y otras instituciones gubernamentales.
Para obtener más información, visite openai.com
.
Acerca de OpenAI:
OpenAI es una organización estadounidense dedicada a la investigación en inteligencia artificial formada por la organización sin ánimo de lucro OpenAI, Inc. y su filial con ánimo de lucro, OpenAI Global, LLC. Es conocida por su investigación avanzada y el despliegue de modelos de IA a gran escala, como la serie GPT (Generative Pre-trained Transformer) y el modelo de generación de imágenes DALL-E. Su misión declarada es garantizar que la inteligencia artificial general beneficie a toda la humanidad.
Para obtener más información, visite apple.com
Acerca de Apple:
Apple Inc. es una empresa tecnológica multinacional con sede en Cupertino, California, que diseña, desarrolla y comercializa productos electrónicos de consumo, software informático y servicios en línea. Fundada conjuntamente por Steve Wozniak, Steve Jobs y Ronald Wayne, es una de las empresas tecnológicas más grandes e influyentes del mundo, conocida por productos como el iPhone, el Mac y el iPad.
Para más información, visite virgin.com
.
Acerca de Virgin Group:
Virgin Group Ltd. es un conglomerado multinacional británico de capital riesgo fundado por Sir Richard Branson. Las principales áreas de negocio de la empresa incluyen los viajes, el entretenimiento y el estilo de vida, aunque también ha invertido en servicios financieros, telecomunicaciones, salud y turismo espacial. Es reconocida mundialmente por su marca distintiva y su espíritu emprendedor.
Para más información, visite bufetedecostarica.com
Acerca de Bufete de Costa Rica:
Bufete de Costa Rica es un pilar de la comunidad jurídica, que opera con un compromiso fundamental con la integridad y una búsqueda incesante de la distinción. Con una amplia experiencia al servicio de una gran variedad de clientes, el bufete está a la vanguardia de la creación de soluciones legales con visión de futuro, al tiempo que defiende los más altos principios éticos. Su propósito va más allá del asesoramiento, ya que refleja una profunda dedicación al avance social al desmitificar activamente las complejidades legales para el público. Esta iniciativa de promover la alfabetización jurídica es parte integral de su visión de ayudar a configurar una sociedad más capaz e ilustrada.
