El documento describe a ChatGPT, un modelo de red neuronal desarrollado por OpenAI que puede responder preguntas y completar tareas de forma similar a un ser humano. Explica que ChatGPT fue entrenado usando grandes cantidades de datos de texto para aprender patrones del lenguaje. Aunque ChatGPT puede dar respuestas precisas, también existe el riesgo de que genere noticias falsas, fraude académico u otros usos inapropiados si se le piden.
1. Instituto Tecnológico de Iguala
Departamento de Sistemas y Computación
Trabajo 1: Percepción IA
Nombre de la materia:
Inteligencia Artificial
Nombre: No. Control:
Jesus Sahid Ocampo Deloya 19670350
2. Instituto Tecnológico de Iguala
Departamento de Sistemas y Computación
Se trata de ChatGPT, un modelo de red neuronal desarrollado por OpenAI,
empresa fundada en 2015 en Estados Unidos por Sam Altman y Elon
Musk (quienes salieron de la compañía en 2018). ChatGPT es, básicamente, un
robot virtual (un chatbot), pero con mucho más potencial de ejecución de tareas.
ChatGPT se creó a partir de la técnica de inteligencia artificial conocida
como Human Feedback Reinforcement Learning (RLHF). Según OpenAI, el
proceso de entrenamiento de la herramienta consiste en alimentar al chatbot con
un gran conjunto de datos de texto y luego usar esa información para aprender
patrones dentro del lenguaje.
• ChatGPT puede escribir respuestas que parecen plausibles pero que
son incorrectas o sin sentido.
• La herramienta es sensible a los ajustes a la frase inicial de la pregunta o a
varios intentos de la misma pregunta. Por ejemplo, dada la redacción de
una oración, el chatbot puede afirmar que no sabe la respuesta, pero con
un pequeño ajuste en el texto, puede responder correctamente.
• En general, ChatGPT es demasiado detallado y usa ciertas frases, como
reafirmar que es una herramienta de lenguaje entrenada.
• Idealmente, la inteligencia artificial haría preguntas aclaratorias cuando el
usuario proporciona una consulta ambigua. En cambio, el bot
real generalmente adivina lo que el usuario pretendía decir.
Tecnología ChatGPT.
3. Instituto Tecnológico de Iguala
Departamento de Sistemas y Computación
La capacidad de la herramienta para brindar respuestas precisas y coherentes en
una simulación casi fiel de textos escritos por humanos es impresionante. Sin
embargo, se han expresado preocupaciones sobre posibles usos inapropiados de
la IA.
Pero según OpenAI, ChatGPT puede responder a instrucciones dañinas o exhibir
un comportamiento sesgado, lo que se ve como algo problemático. Por ejemplo, el
bot podría crear rápidamente un borrador de malware (software malicioso que
generalmente se usa para ataques de piratería) si se le solicita.
La producción de noticias falsas y el fraude en trabajos académicos son otros
puntos de preocupación. Según un artículo reciente publicado en The New York
Times, algunos profesores universitarios y escolares están revisando métodos de
evaluación de textos para evitar el trabajo realizado por esta inteligencia artificial.
Según el desarrollador de tecnología, se han hecho esfuerzos para que el chatbot
rechace estas solicitudes inapropiadas.