¿Se debe considerar a ChatGPT como un problema de seguridad?

Inicio · Blog IA · Noticias · ¿Se debe considerar a ChatGPT como un problema de seguridad?

ChatGPT, el chatbot desarrollado por OpenAI, se ha convertido en una de las herramientas favoritas en internet. Con más de 1 millón de usuarios, ChatGPT se ha utilizado para generar discursos de bodas, letras de canciones, ensayos académicos y códigos informáticos. Sin embargo, su capacidad para generar texto y conversaciones realistas ha generado preocupaciones en la industria de la seguridad cibernética, ya que puede ser empleado por hackers con pocos recursos y sin conocimientos técnicos.

ChatGPT y la industria educativa

El universo educativo ha sido uno de los primeros en mostrar preocupaciones con respecto a ChatGPT. Una escuela en Nueva York prohibió el uso del chatbot debido a temores de que pudiera ser empleado para engañar. La preocupación es que los estudiantes podrían usar el chatbot para generar trabajos y tareas de manera automatizada, lo cual podría dificultar la detección de plagio.

ChatGPT y la industria publicitaria

Los copywriters, o escritores publicitarios, temen que su trabajo pueda ser reemplazado por el chatbot.

La industria publicitaria también ha mostrado preocupaciones con respecto a ChatGPT. Con su capacidad para generar texto y conversaciones realistas, ChatGPT podría ser empleado para crear anuncios y campañas publicitarias de manera automatizada, en minutos, de forma gratuita o infinitamente más económica que un redactor humano.

ChatGPT y Google

Google también ha mostrado preocupaciones con respecto a ChatGPT. Se ha informado que la compañía emitió una «alerta roja» para garantizar la supervivencia de su negocio de búsqueda. La preocupación es que ChatGPT podría ser utilizado para generar contenido automatizado que podría competir con el contenido generado por los usuarios.

ChatGPT y la industria de la seguridad informática

La compañía israelí de seguridad Check Point demostró cómo el chatbot podría generar un correo electrónico de phishing capaz de contener una carga maliciosa.

La industria de la seguridad cibernética ha sido una de las más críticas con respecto a ChatGPT. Los expertos en seguridad creen que su capacidad para escribir correos electrónicos de phishing legítimos lo hará muy atractivo para los ciberdelincuentes. Los estafadores podrían utilizar ChatGPT para crear campañas de phishing más sofisticadas y convincentes.

Esta industria también ha mostrado preocupaciones con respecto a la capacidad de ChatGPT para escribir código malicioso. Check Point informó haber presenciado al menos tres casos en los que hackers sin habilidades técnicas mostraron cómo habían utilizado las habilidades de ChatGPT para fines maliciosos. Un hacker en un foro mostró código escrito por ChatGPT que supuestamente robaba archivos de interés, los comprimía y los enviaba a través de la web. Otra utilización observada fue la creación de scripts de malware para ataques de phishing.

Es importante mencionar que ChatGPT ha sido diseñado para no crear o promover contenido malicioso, pero los expertos en seguridad han señalado que su capacidad para generar texto y conversaciones realistas podría ser utilizada para evadir las medidas de seguridad existentes y engañar a las personas.

Como siempre, el uso que se le dé a una herramienta puede convertirla en salvadora o villana. Es indiscutible el poder de ChatGPT, pero acaba de nacer, por lo que es factible que los desarrolladores sean capaces de mejorar su comprensión para detectar intenciones maliciosas por parte del usuario. ¿Qué opinas?

Fuente TechCrunch

Escrito por Miguel Ángel G.P.

IT Manager | Más de 15 años de experiencia en informática corporativa. Experto en Apple, sistemas, redes, nube, virtualización, big data, diseño web...
Este artículo habla de Noticias y Empleo, OpenAI, Seguridad.
Se publicó el 16 de enero de 2023.

Descubre nuevas IAs

Hablamos de todo esto

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *