Ciberseguridad empresarial: Ransomware y el impacto de la inteligencia artificial y la inteligencia artificial generativa

Abstract

En aquest projecte, s'estudiarà l'impacte de les eines IA, especialment les IA generatives, en l'àmbit de la ciberseguretat. Encara que la IA ha presentat un gran avanç en la seguretat empresarial, també pot ser una amenaça per a les companyies, concretament en la generació de ransomware. Per a comprovar aquest últim punt, s'han usat dues tècniques en ChatGPT per a forçar a l'eina al fet que retorni codi de ransomware, malgrat ser material que l'eina no pot escriure per política d'ús. Aquestes tècniques, a més, es van emprar en anglès, espanyol, català i italià, per a comprovar si l'idioma pot influir en l'obtenció del codi. El resultat d'aquests experiments, tenint en compte que són escassos i que no representa la totalitat de la seguretat de ChatGPT, ha estat l'obtenció de codi de ransomware, remarcant la probabilitat que les barreres de seguretat i ètiques de l'eina poden veure's afectades si l'idioma usat té menys presència en la xarxa o té menys parlants.

En este proyecto, se va a estudiar el impacto de las herramientas IA, en especial las IA generativas, en el ámbito de la ciberseguridad. Aunque la IA ha presentado un gran avance en la seguridad empresarial, también puede ser una amenaza para las compañías, concretamente en la generación de ransomware. Para comprobar este último punto, se han usado dos técnicas en ChatGPT para forzar a la herramienta a que devuelva código de ransomware, a pesar de ser material que la herramienta no puede escribir por política de uso. Estas técnicas, además, se emplearon en inglés, español, catalán e italiano, para comprobar si el idioma puede influir en la obtención del código. El resultado de estos experimentos, teniendo en cuenta de que son escasos y que no representa la totalidad de la seguridad de ChatGPT, ha sido la obtención de código de ransomware, remarcando la probabilidad de que las barreras de seguridad y éticas de la herramienta pueden verse afectadas si el idioma usado tiene menos presencia en la red o tiene menos hablantes.

In this project, we are going to study the impact of AI tools, especially generative AI, in the field of cybersecurity. Although AI has presented a breakthrough in enterprise security, it can also be a threat to companies, specifically in the generation of ransomware. To test the latter point, two techniques were used in ChatGPT to force the tool to return ransomware code, despite being material that the tool cannot write due to usage policy. These techniques, in addition, were used in English, Spanish, Catalan, and Italian, to test whether language can influence the fetching of the code. The result of these experiments, taking into account that they are scarce and that they do not represent the totality of ChatGPT security, has been the obtaining of ransomware code, highlighting the probability that the security and ethical barriers of the tool may be affected if the language used has less presence in the network or has fewer speakers.