gray swan ai

Gray Swan AI es una startup de seguridad de inteligencia artificial que ofrece evaluación adversaria y protección en tiempo real para modelos y agentes de IA. Organiza competiciones de 'jailbreaking' (más de 600 participantes) para descubrir vulnerabilidades, colabora con laboratorios como OpenAI y Anthropic, y proporciona productos empresariales (p. ej. Shade, Cygnal, Arena) destinados a identificar fallos antes del despliegue y bloquear ataques en producción. Ha recaudado alrededor de 5,5 millones de dólares y planea avanzar hacia una ronda Serie A. Fundada en 2023 y con sede en Pittsburgh, EEUU.