El boom de la inteligencia artificial ha impactado fuertemente a la sociedad, trayendo beneficios y facilidades para la vida cotidiana de las personas y para las operaciones de las empresas. Entre estas nuevas tecnologías se encuentra ChatGPT, que es utilizada para una variedad de propósitos en diversos sectores, desde la creación de textos, historias y poemas, hasta la elaboración de procesos judiciales y recomendaciones médicas.
ChatGPT también es capaz de proporcionar instrucciones detalladas, divididas y ordenadas en etapas lógicas sobre diversas áreas y actividades, lo que puede ayudar considerablemente a estudiantes, profesionales principiantes o incluso experimentados que deseen automatizar o agilizar actividades cotidianas, repetitivas o de cualquier otra naturaleza.
Esta herramienta basada en el modelo de lenguaje natural GPT-3 (Generative Pre-trained Transformer 3), de OpenAI, es un modelo de lenguaje de gran escala (LLM, por sus siglas en inglés), que funciona con información de datos textuales, para que así pueda generar respuestas coherentes o preguntas en lenguaje natural. Sin embargo, junto con los beneficios traídos por ChatGPT, también existen riesgos asociados a su manejo.
Riesgo de privacidad y confidencialidad
El método (no supervisado) y la cantidad de datos utilizados en el uso de este servicio pueden generar riesgos de privacidad y confidencialidad de la información, ya que el modelo puede aprender a partir de datos compartidos en conversaciones que contengan información confidencial o sensible sobre personas y empresas. De esta manera, esta información puede ser usada para componer una respuesta de ChatGPT a cualquier pregunta donde ese contenido sea coherente.
Según Ueric Melo, Gerente de Ciberseguridad y Privacidad de Genetec, compañía con más de 25 años de experiencia en la transformación digital de las soluciones de seguridad electrónica: “A pesar de la recomendación de OpenAI para que no se comparta información crítica de las empresas y personas en las conversaciones, una investigación de Cyberhaven muestra que el 4,9 % de los empleados usaron información de la empresa en el chat, y el 2,3 % usaron información corporativa confidencial.”
Ciberseguridad
ChatGPT también es capaz de proporcionar instrucciones detalladas, divididas y ordenadas en etapas lógicas sobre diversas áreas y actividades. De este modo, podemos imaginar el escenario donde una persona malintencionada con conocimientos técnicos muy limitados, a partir de una pregunta como: “¿Cómo hackear [nombre de la aplicación]?”, podrá obtener finalmente, después de una cantidad de interacciones, un código complejo y eficiente para explotar vulnerabilidades.
Además, los ciberdelincuentes con objetivos financieros más inmediatos pueden ignorar las “habilidades técnicas” de ChatGPT y centrarse en su “capacidad creativa” para hacer “phishing”, elaborando contenido que pueda persuadir a personas a realizar una acción determinada como hacer clic en un enlace a un sitio malicioso, abrir un archivo adjunto que contenga un software malicioso, llamar por teléfono o cualquier otra acción que ocasione el éxito del engaño.
Noticias falsas
La capacidad de ChatGPT para producir historias convincentes, si se dispone de la información y el contexto adecuados, también permite la creación de noticias falsas bien elaboradas, que pueden convertirse en “verdades” para quienes las reciben. Este es un riesgo bastante elevado, ya que los impactos de una noticia falsa pueden ser enormes.
“Las noticias falsas pueden perjudicar la reputación de alguien, acabar con una marca o empresa, pueden influir en situaciones políticas e incluso causar daño físico o la muerte de personas”, comenta Melo.
Resultados sesgados o incorrectos
Debido a que uno de los objetivos de esta herramienta, es entregar respuestas en un lenguaje natural (lo más cercano posible a una respuesta dada por un ser humano), la inteligencia artificial puede “inventar” información, referencias y hechos históricos, y presentarlos como factuales, lo que se denomina “Alucinación de IA”.
Además, por los motivos mencionados anteriormente, ChatGPT también puede presentar respuestas sesgadas, parciales, ofensivas e incluso agresivas, como ya ha ocurrido con otras herramientas basadas en IA.
Conclusiones
Con la rápida popularización de ChatGPT (100 millones de usuarios solo en enero de 2023), muchas personas tuvieron su primer contacto con una herramienta de inteligencia artificial, en particular con un modelo de lenguaje de gran escala. La simplicidad de uso y la versatilidad de las respuestas hicieron que ChatGPT se hiciera bastante popular entre el gran público.
Sin embargo, es fundamental que los desarrolladores y usuarios estén conscientes de los riesgos, que se implementen medidas adecuadas de protección para garantizar que los datos compartidos estén adecuadamente protegidos y que tecnologías como ChatGPT sean utilizadas de manera ética y responsable.
“Esta nueva alternativa es una herramienta poderosa y prometedora que puede traer muchos beneficios para diversos sectores; sin embargo, el modelo no es 100 % confiable. Toda información generada por la aplicación debe ser evaluada, verificada, ajustada y validada por un ser humano.” concluye Ueric Melo.
very informative articles or reviews at this time.
https://x.worldvill.com/ –
Gdy zapomnisz hasła do zablokowania ekranu, jeśli nie wprowadzisz prawidłowego hasła, odblokowanie i uzyskanie dostępu będzie trudne. Jeśli okaże się, że Twój chłopak / dziewczyna jest podejrzana, być może pomyślałeś o włamaniu się do jego telefonu Samsung, aby uzyskać więcej dowodów. Tutaj zapewnimy Ci najlepsze rozwiązanie, jak złamać hasło telefonu komórkowego Samsung.
Nice post. learn something new and challenging on blogs I stumbleupon on a daily basis.<a href="https://www.cse.google.mg/url?sa=t
Great post Thank you. look forward to the continuation.-vox streaming kostenlos
Najlepsza aplikacja do kontroli rodzicielskiej, aby chronić swoje dzieci – potajemnie tajny monitor GPS, SMS-y, połączenia, WhatsApp, Facebook, lokalizacja. Możesz zdalnie monitorować aktywność telefonu komórkowego po pobraniu i zainstalowaniu apk na telefonie docelowym.
Very nice blog post. definitely love this site.Abaodam 6 pcs Bird Training Food Box Bird Feeder Metal Storage Tins Birdfeeder Metal Storage Container birdemic Birds feeders for Outside Birds Food Case Carrying case Steel Slider – Hot Deals
Nice post. learn something new and challenging on blogs I stumbleupon on a daily basis. – mens hey dudes
Good post! We will be linking to this particularly great post on our site.
The information you shared is very valuable to me, thank you! check it out
Thank you for your sharing. I am worried that I lack creative ideas. It is your article that makes me full of hope. Thank you. But, I have a question, can you help me?
I don’t think the title of your article matches the content lol. Just kidding, mainly because I had some doubts after reading the article.
Hello I am so happy I found your weblog, I really found
you by accident, while I was searching on Aol for something
else, Anyhow I am here now and would just like to say cheers for a fantastic post
and a all round exciting blog (I also love the
theme/design), I don’t have time to browse it all at the minute but I have saved
it and also included your RSS feeds, so when I have time I will be back to read much more, Please do keep
up the excellent job.
https://solo.to/kobet1
https://www.outlookindia.com/plugin-play/ED8590ED8590EBB2B3-EB8F99EC9DBC-EC8694EBA3A8EC8598-EBA994EC9DB4ECA080EC82ACEC9DB4ED8AB8-EBAAA8EC9584EBB3B4EAB8B0
http://www.unnewsusa.com/bbs/board.php?bo_table=free&wr_id=2812830
https://shareplat.net/bbs/board.php?bo_table=free&wr_id=101625
http://ocsweb.icpkorea.com/bbs/board.php?bo_table=free&wr_id=432142