Google busca errores utilizando inteligencia artificial
Google ha introducido un nuevo sistema de detección de errores AI llamado Big Sleep que utiliza LLMs (modelos de lenguaje grande) para analizar código. La vicepresidenta de Seguridad de Google, Heather Adkins, declaró que el sistema ya ha ayudado a identificar 20 nuevas vulnerabilidades, algunas de las cuales están clasificadas como críticas. El sistema se aplicó a software de código abierto, incluyendo cURL, FFmpeg, ImageMagick, Envoy, libjpeg, gRPC, etc. La IA detectó errores que los humanos no pudieron encontrar, incluyendo límites de array, uso después de liberar, etc.
El sistema fue desarrollado por DeepMind y los hackers de Project Zero, que están involucrados en sus propias verificaciones de seguridad de los servicios de Google (Blue Team). Google promete abrir algunas de las herramientas a la comunidad para apoyar la seguridad de proyectos de código abierto.
Al mismo tiempo, la empresa anima a otras corporaciones a invertir en soluciones de IA similares para la detección de errores.
Los sistemas de detección de errores de IA no son nuevos. A pesar de que actualmente son capaces de "alucinar", detectando errores que no pueden ser reproducidos en la realidad, o perdiendo vulnerabilidades críticas, estos sistemas indudablemente se volverán populares en un futuro cercano.
Fuente: techcrunch.com
