Los efectos adversos de la tecnología de inteligencia artificial (IA) en manos de los delincuentes, que permiten la creación de falsificaciones profundas y malware, han reforzado la necesidad de actuar.
OpenAI, el creador de ChatGPT y Dall-e, ha anunciado un programa de subvenciones de seguridad cibernética de $ 1 millón para mejorar y medir el impacto de las tecnologías de seguridad cibernética impulsadas por IA.
La compañía de IA ha enfatizado continuamente la importancia de la regulación de la IA para prevenir aplicaciones potencialmente maliciosas. En la carrera armamentista digital en curso, OpenAI parece estar tomando medidas proactivas para garantizar que las fuerzas positivas no se queden atrás.
OpenAI presentó una amplia gama de conceptos de proyectos, incluida la creación de trampas para atrapar a los atacantes, ayudar a los desarrolladores a diseñar software seguro y mejorar los procedimientos de administración de parches para una eficiencia óptima.
Los objetivos del programa son claros, como lo indica OpenAI en la publicación oficial del blog: «Nuestro objetivo es promover el avance de las capacidades de ciberseguridad impulsadas por IA para los defensores a través de subvenciones y asistencia adicional». modelos y determinación de métodos para mejorar sus capacidades de ciberseguridad.
Esta innovadora iniciativa busca alcanzar tres objetivos clave. Primero, busca “empoderar a los defensores” aprovechando las capacidades de IA y los esfuerzos de colaboración para cambiar el equilibrio a favor de aquellos dedicados a mejorar la seguridad y la protección en general.
Otro enfoque de la iniciativa es la ‘medición de la capacidad’. OpenAI tiene como objetivo brindar apoyo a proyectos enfocados en desarrollar métodos de cuantificación para evaluar la efectividad de los modelos de IA en el campo de la ciberseguridad. Además, OpenAI pretende «elevar el discurso» fomentando debates en profundidad sobre la compleja relación entre la IA y la ciberseguridad.
Conectado: OpenAI recibe una advertencia de los reguladores japoneses sobre la recopilación de datos
Esta iniciativa rompe con la visión convencional de la ciberseguridad. OpenAI subraya la importancia de la frase que se escucha con frecuencia de que los defensores deben tener razón todo el tiempo, mientras que los atacantes deben tener éxito solo una vez. Sin embargo, OpenAI reconoce el poder de la colaboración hacia el objetivo compartido de mantener a las personas seguras. Están decididos a demostrar que, con la ayuda de la IA, los defensores pueden cambiar la dinámica y ganar ventaja.
revista: 25,000 comerciantes apuestan en acciones de ChatGPT, AI apesta en tiradas de dados y más
