Herramientas de inteligencia artificial como ChatGPT podrían usarse para lanzar ciberataques, según muestra un estudio

Un nuevo estudio afirma que los chatbots impulsados por IA, incluido el popular ChatGPT de OpenAI, podrían ayudar a los piratas informáticos a lanzar ataques cibernéticos.

Los usuarios pueden aprovechar una vulnerabilidad y engañar al chatbot de IA para que escriba código malicioso que no sólo puede piratear bases de datos sino también robar información confidencial.

Según investigadores del Departamento de Ciencias de la Computación de la Universidad de Sheffield , es probable que las personas lo hagan accidentalmente y provoquen la falla de sistemas informáticos vitales.

Por ejemplo, una enfermera podría pedirle a ChatGPT que escriba un código que le ayude a buscar en registros clínicos. No hay premios por adivinar, esto podría perturbar la red.

En consonancia con esto, una nueva investigación de Microsoft mostró que el último Chat GPT-4 es más fácil de manipular que su predecesor, ChatGPT-3.

Además, el equipo de la Universidad de Sheffield observó que incluso las empresas detrás de estos complejos chatbots no eran conscientes de las amenazas que representaban.

Cumbre de seguridad de IA 2023: ¿Qué esperar?

Curiosamente, el estudio se publicó antes de la Cumbre de seguridad de IA , que está prevista para el 1 y 2 de noviembre en el Reino Unido. El evento se centra en implementar la tecnología de forma segura.

Magnates de la tecnología, académicos y líderes mundiales se reunirán cara a cara para acordar un marco para proteger a las personas del daño potencial "catastrófico" de la inteligencia artificial.

OpenAI dijo que la laguna jurídica específica se solucionó desde que se señaló el problema. Sin embargo, el equipo del Departamento de Ciencias de la Computación de Sheffield, que cree que podría haber más lagunas similares, pidió a la industria de la ciberseguridad que verificara el problema con más detalle.

El artículo muestra que los sistemas Text-to-SQL se pueden utilizar para atacar sistemas informáticos en el mundo real. Vale la pena señalar que los sistemas Text-to-SQL aluden a una IA capaz de buscar en bases de datos haciendo preguntas en lenguaje sencillo.

En particular, las cinco herramientas comerciales de IA que analizaron los investigadores no rehuyeron producir códigos maliciosos, que podrían filtrar información confidencial o interrumpir y destruir completamente los servicios.

Según los resultados, incluso la gente corriente podría llevar a cabo este tipo de ataques. Como resultado, usuarios inocentes podrían acabar infectando accidentalmente los sistemas informáticos.

El estudiante de doctorado de la Universidad de Sheffield, Xutan Peng, que codirigió la investigación, dijo: "En realidad, muchas empresas simplemente no son conscientes de este tipo de amenazas y, debido a la complejidad de los chatbots, incluso dentro de la comunidad, hay cosas que "No se entienden completamente. Por el momento, ChatGPT está recibiendo mucha atención".

Si bien los riesgos para el servicio en sí son mínimos, Peng señaló que se puede engañar al sistema independiente para que produzca código malicioso. Como era de esperar, este código puede utilizarse para causar graves daños a otros servicios.

Continuó señalando que el riesgo de ChatGPT y otros robots conversacionales similares es que la gente los utilice como herramientas de productividad. "Aquí es donde nuestra investigación muestra que están las vulnerabilidades", explicó Peng.

A principios de este mes, la Fuerza Espacial de EE. UU . decidió suspender el uso de herramientas de inteligencia artificial generativa similares a ChatGPT para su fuerza laboral debido a preocupaciones similares sobre la seguridad de los datos.