Hace unos meses, Anthropic se enfrentó al Pentágono al negarse a retirar las salvaguardas que impedían utilizar Claude para vigilancia doméstica masiva y armas plenamente autónomas. El debate se enredó cuando alguien preguntó si esas restricciones permitirían emplearlo para ayudar a derribar, en un caso hipotético, un misil balístico intercontinental dirigido contra Estados Unidos.
Había allí, en todo caso, un trasfondo altruista que comenzó a desdibujarse meses después, cuando Claude empezó a tratar ciertas verdades institucionalmente consagradas, en particular las judiciales, como terrenos casi vedados al cuestionamiento. Se negaba a colaborar en textos críticos o imponía condiciones impracticables, peligrosamente cerca de las prácticas de los Estados totalitarios.
Pero ahora, el consejero delegado de Anthropic, Dario Amodei, cometió una verdadera pifia intelectual con su reciente ensayo Debemos marcar el ritmo de la frontera tecnológica. El texto tuvo enorme eco y el respaldo de Sam Altman, Elon Musk y Demis Hassabis, mientras Mark Zuckerberg y Jensen Huang tomaron distancia. El tropiezo desconcierta por proceder de una de las mentes brillantes de la industria, y recuerda que incluso inteligencias superiores para descifrar sistemas complejos pueden enredarse en ecuaciones conceptuales elementales.
En su apasionado alegato, Amodei advierte que el vertiginoso avance de la IA podría producir modelos capaces de escapar al control humano y multiplicar los riesgos de ciberataques, bioterrorismo y disrupción económica. Incluso teme que, en seis a doce meses, enjambres de agentes poderosos de IA lleguen a tomar el control de internet. De allí su llamado a desacelerar la frontera tecnológica y acompasar el avance de sus capacidades con mayores salvaguardas.
Pero sus fórmulas contra esos riesgos tropiezan con la evidencia y con su propia lógica. Imagina evaluadores externos con capacidad técnica extraordinaria para escrutar organizaciones en la frontera de la innovación. En realidad, propone una superagencia regulatoria con poderes excepcionales, enorme infraestructura y personal especializado. Cuanto más eficaz pretendiera ser, más invasiva sería y mayor su conflicto con la vitalidad innovadora que busca preservar. Paradójicamente, meses antes Amodei defendía la facultad de su empresa para imponer límites al Estado —entonces, el Pentágono— sobre el uso de su tecnología. Aun bajo la razón altruista de la seguridad, subsiste la pregunta de quién determina qué riesgo es aceptable.
Tampoco existe precedente de un organismo capaz de retener el talento necesario para fiscalizar empresas en la frontera tecnológica. Incluso dependería de ellas para determinar a qué información acceder. De ahí que The Washington Post advirtiera un tufillo a búsqueda de rentas en la propuesta, pues el gobierno tendría que conceder una exención antimonopolio para esa «colusión bienintencionada». La aprobación de un evaluador externo tampoco debería eximirlas de responsabilidad por sus lanzamientos. Amodei invoca la supervisión bancaria, pero confunde la arquitectura jurídica de obligaciones y sanciones con la seguridad técnica frente al fraude digital, ataques y fallos informáticos, que sigue en manos de bancos y proveedores especializados.
Ahora bien, Amodei sostiene que no desarrollar la IA supondría sacrificar sus beneficios o dejar la iniciativa en manos de poderes autoritarios, mientras desarrollarla demasiado rápido sería temerario. Frente a esa disyuntiva, Anthropic habría elegido una middle way: desarrollarla con cautela, sin renunciar al éxito comercial. Pero ahí cambia discretamente de variable. El dilema estaba formulado en términos de velocidad —no avanzar demasiado rápido— y la solución aparece en términos de calidad —desarrollar carefully—, que no es lo mismo.
La inconsistencia va más lejos. Si Anthropic ha reducido deliberadamente su velocidad, solo caben dos posibilidades: que sus competidores hayan hecho lo mismo o que disponga de una ventaja técnica tal que, sin esa cautela, estaría por delante de todos. En ambos casos, la middle way descansa en una premisa competitiva de dudosa lógica.
El ensayo presenta otros problemas. Pasa de la seguridad de la IA a una doctrina geopolítica apenas explicitada, donde la seguridad global depende de preservar la ventaja estratégica de Estados Unidos frente a China. Y añade otra torsión. Al riesgo de una burbuja financiera, alimentada por expectativas de rentabilidad desancladas de la realidad, suma la posibilidad de una perturbación económica provocada por avances de la IA que desborden las salvaguardas existentes.
No se trata de negar los riesgos de la IA. Hacerlo sería un exabrupto. Pero acaso el principal antídoto responda a una lógica menos novedosa, que las propias empresas desarrollen anticuerpos contra los riesgos que generan, una suerte de Supermán tecnológico frente a los Lex Luthor de un escenario distópico. No por altruismo, sino porque una compañía podría ver evaporarse en instantes billones de dólares de valor si sus sistemas caen bajo el control de algún supervillano.
Pero la ansiedad tecnológica ya no se limita al temor de perder el control de las máquinas. Empieza también a inquietarse por aquello que siempre llamamos progreso. El 26 de agosto, Bill Gates advertía en The New York Times que la IA podría provocar desempleo masivo e incluso sugería impedir que sustituyera ciertos empleos. Sin duda destruirá puestos de trabajo y acaso ensanche una desigualdad menos advertida, la de la inteligencia que separará a quienes usan la IA como extensión de su capacidad de síntesis, intuición y juicio de quienes apenas delegan en ella procedimientos y respuestas.
Pero también creará nuevos empleos. Y aun si Gates acertara en el balance, erraría en lo esencial. La prosperidad no consiste en preservar empleos, sino en producir más con menos trabajo. Algo semejante ocurre con Amodei. Extravía principios elementales de la innovación y de los límites de la vigilancia estatal, confunde arquitectura regulatoria con seguridad, cautela con lentitud y termina haciendo del miedo un intento de teoría del progreso.
The post La paranoia de los titanes tecnológicos appeared first on La Razón.
