Noticia
Hace un día.
🚀 🦀 Brex lanza CrabTrap para asegurar agentes de IA con reglas estáticas y LLM
Mencionados:brexCapital One
- Brex lanzó CrabTrap, un proxy de seguridad de código abierto diseñado para supervisar y controlar las acciones de agentes de IA autónomos en tiempo real.
- La herramienta utiliza un sistema híbrido donde el 97% de las solicitudes se gestionan con reglas estáticas de alta velocidad, mientras que el 3% restante es evaluado por un LLM configurado como "juez".
- El proyecto busca mitigar riesgos como acciones destructivas, inyecciones de prompts y fugas de datos en empresas que integran agentes con acceso a APIs y sistemas financieros.
Para agregar comentarios, necesitas entrar o registrar una cuenta.
Con una cuenta podrás:
- Seguir empresas y recibir notificaciones en tiempo real
- Agregar comentarios en publicaciones
- Ver más noticias sobre cada empresa
- Recibir nuestro boletín gratuito con las últimas actualizaciones
¡Únete a nuestra comunidad hoy!
¿Quieres sugerir cambios a esta noticia? Escribe a contenido@descubre.vc