Altman, Amodei, Musk y el dilema del prisionero de la IA

El dilema de las empresas de IA, como Anthropic, OpenAI y Musk, es que deben equilibrar el avance tecnológico y la seguridad. Dario Amodei, CEO de Anthropic, ha llamado a la industria a ralentizar el desarrollo de modelos de IA avanzados para mejorar su seguridad. Sam Altman, CEO de OpenAI, respalda esta llamada y promete incorporar similares evaluadores en su organización. Elon Musk también apoya esta idea, destacando el riesgo de que los intereses privados dicten las reglas públicas.

Este problema se asemeja al dilema del prisionero en la teoría de juegos, donde las empresas deben decidir si aceleran o contienen su desarrollo. Si todos aceleran, ningún jugador obtiene una ventaja significativa, pero si alguno contenga, el resto podría caer fuera del mercado. Este dilema hace que la contención pueda ser más rentable para las empresas, ya que evita la carrera hacia la frontera tecnológica y reduce el riesgo de accidentes que dañen su reputación.

Los evaluadores independientes con acceso de empleado a los sistemas internos de las empresas de IA podrían ayudar a verificar si las empresas están cumpliendo con sus compromisos de seguridad. Sin embargo, este enfoque solo funcionará si no hay formas indirectas de obtener información sobre la seguridad de los sistemas. Los competidores externos, como China y el software abierto, presentan desafíos adicionales para mantener un equilibrio entre la aceleración y la contención.

Sin embargo, ofrecer autorregulación antes de que se apruebe la legislación y realizar salidas a bolsa delante de este desarrollo pueden ser acciones inteligentes para estas empresas.