ChatGPT

De Wikipedia, la enciclopedia libre
Ir a la navegación Ir a la búsqueda
ChatGPT
ChatGPT OpenAI example in Spanish.png
Información general
Tipo de programa modelo del lenguaje
Autor OpenAI
Lanzamiento inicial 30 de noviembre de 2022
Descubridor OpenAI
Lanzamientos
GPT-3
ChatGPT
Enlaces

ChatGPT es un prototipo de chatbot de inteligencia artificial desarrollado en 2022 por OpenAI que se especializa en el diálogo. El chatbot es un gran modelo de lenguaje ajustado con técnicas de aprendizaje tanto supervisadas como de refuerzo.[1]​ Se basa en el modelo GPT-3.5 de OpenAI, una versión mejorada de GPT-3.

ChatGPT se lanzó el 30 de noviembre de 2022[2]​ y ha llamado la atención por sus respuestas detalladas y articuladas, aunque se ha criticado su precisión fáctica. El servicio se lanzó inicialmente como gratuito para el público, con planes de monetizarlo más adelante. El 4 de diciembre, OpenAI calculaba que ChatGPT ya tenía más de un millón de usuarios.[3][4]

Características[editar]

ChatGPT se perfeccionó sobre GPT-3.5 mediante el aprendizaje supervisado y el aprendizaje por refuerzo.[5]​ Ambos enfoques utilizaron entrenadores humanos para mejorar el rendimiento del modelo. En el caso del aprendizaje supervisado, se dotó al modelo de conversaciones en las que los formadores jugaban en ambos lados: el usuario y el asistente de IA. En el caso de refuerzo, los entrenadores humanos primero clasificaron las respuestas que el modelo había creado en una conversación anterior. Estas clasificaciones se usaron para crear “modelos de recompensa” en los que el modelo se ajustó aún más usando varias iteraciones de optimización de política próxima (PPO).[1][6]​ Los algoritmos de optimización de políticas proximales presentan un beneficio rentable para confiar en los algoritmos de optimización de políticas de región; niegan muchas de las operaciones computacionalmente costosas con un rendimiento más rápido.[7][8]​ Los modelos fueron entrenados en colaboración con Microsoft en su infraestructura de supercomputación Azure.

En comparación con su predecesor, InstructGPT, ChatGPT intenta reducir las respuestas dañinas y engañosas; en un ejemplo, mientras que InstructGPT acepta el mensaje "Cuénteme sobre cuándo llegó Cristóbal Colón a los Estados Unidos en 2015" como veraz, ChatGPT usa información sobre los viajes de Colón e información sobre el mundo moderno, incluidas las percepciones de Colón para construir una respuesta que asume qué pasaría si Colón llegara a los Estados Unidos en 2015.[1]​ Los datos de capacitación de ChatGPT incluyen páginas e información sobre los fenómenos de Internet y los lenguajes de programación, como los sistemas de tablones de anuncios y el lenguaje de programación Python.[9]

A diferencia de la mayoría de los chatbots, ChatGPT tiene estado, recuerda las indicaciones anteriores que se le dieron en la misma conversación, lo que, según han sugerido algunos periodistas, permitirá que ChatGPT se use como un terapeuta personalizado.[10]​ En un esfuerzo por evitar que se presenten y se produzcan resultados ofensivos desde ChatGPT, las consultas se filtran a través de una API de moderación y se descartan las indicaciones potencialmente racistas o sexistas.[1][10]

ChatGPT tiene múltiples limitaciones. El modelo de recompensa de ChatGPT, diseñado en torno a la supervisión humana, puede optimizarse en exceso y, por lo tanto, dificultar el rendimiento, lo que también se conoce como la ley de Goodhart.[11]​ Además, ChatGPT tiene un conocimiento limitado de los eventos que ocurrieron después de 2021 y no puede proporcionar información sobre algunas celebridades. En el entrenamiento, los revisores prefirieron respuestas más largas, independientemente de la comprensión real o el contenido fáctico.[1]​ Los datos de entrenamiento también pueden sufrir sesgos algorítmicos; las indicaciones que incluyen descripciones vagas de personas, como un director ejecutivo, podrían generar una respuesta que asume que esa persona, por ejemplo, es un hombre blanco.[12]

El 17 de enero 2023 Microsoft anunció que van a implementar ChatGPT como API en sus servicios de Azure.[13]

Captura de pantalla recortada de ChatGPT, 30 dic 2022

Recepción[editar]

ChatGPT ha recibido críticas generalmente positivas. Samantha Lock de The Guardian señaló que podía generar texto "impresionantemente detallado" y "similar a un humano".[14]​ El escritor de tecnología Dan Gillmor usó ChatGPT en una tarea de un estudiante y descubrió que el texto generado estaba a la par con lo que entregaría un buen estudiante y opinó que "la academia tiene algunos problemas muy serios que enfrentar".[15]​ Alex Kantrowitz de Slate elogió el rechazo de ChatGPT a preguntas relacionadas con la Alemania nazi, incluida la afirmación de que Adolf Hitler construyó carreteras en Alemania, que se encontró con información sobre el uso de trabajo forzado por parte de la Alemania nazi.[16]

En un artículo de opinión de diciembre de 2022, el economista Paul Krugman escribió que ChatGPT afectaría la demanda de trabajadores del conocimiento.[17]​ James Vincent, de The Verge, vio el éxito viral de ChatGPT como evidencia de que la inteligencia artificial se había generalizado.[6]​ En The Atlantic, Stephen Marche señaló que su efecto en la academia y especialmente en los ensayos de aplicación aún no se ha entendido.[18]​ El maestro de secundaria y autor de California, Daniel Herman, escribió que ChatGPT marcará el comienzo de "El fin del inglés de la escuela secundaria".[19]

Se ha cuestionado la exactitud de los hechos de ChatGPT, entre otras preocupaciones. Mike Pearl de Mashable probó ChatGPT con varias preguntas. En un ejemplo, le preguntó al modelo por "el país más grande de América Central que no es México". ChatGPT respondió con Guatemala, cuando la respuesta es Nicaragua.[20]​ En diciembre de 2022, el sitio web de preguntas y respuestas Stack Overflow prohibió el uso de ChatGPT para generar respuestas a preguntas, citando la naturaleza objetivamente ambigua de las respuestas de ChatGPT.[21]​ El economista Tyler Cowen expresó su preocupación por sus efectos en la democracia, citando la capacidad de uno para escribir comentarios automatizados en un esfuerzo por afectar el proceso de decisión de las nuevas regulaciones.[22]​ Ax Sharma de Bleeping Computer y Checkpoint Research señalaron que ChatGPT era capaz de escribir malware y correos electrónicos de phishing.[23][24]

Implicaciones para la educación[editar]

En la revista The Atlantic, Stephen Marche señaló que aún no se conoce su efecto en el mundo académico y, en especial, en las redacciones de solicitudes de admisión.[25]​ El profesor de secundaria y escritor californiano Daniel Herman escribió que ChatGPT marcaría el comienzo de "El fin del inglés en secundaria".[26]

En la revista Nature, Chris Stokel-Walker señaló que los profesores deberían preocuparse de que los estudiantes utilicen ChatGPT para externalizar su escritura, pero que los proveedores de educación se adaptarán para mejorar el pensamiento crítico o el razonamiento.[27]

Emma Bowman, de NPR, escribió sobre el peligro de que los estudiantes plagien a través de una herramienta de IA que puede producir textos sesgados o sin sentido con un tono autoritario: "There are still many cases where you ask it a question and it'll give you a very impressive-sounding answer that's just dead wrong".[28]

Joanna Stern, de The Wall Street Journal, describió cómo se copiaba con esta herramienta en un examen de inglés de un instituto estadounidense al enviar una redacción generada.[29]​ El profesor Darren Hick, de la Universidad de Furman, describió cómo se dio cuenta del "estilo" de ChatGPT en un trabajo enviado por un estudiante.[30]​ Un detector de GPT en línea afirmaba que el trabajo tenía un 99,9 % de probabilidades de ser generado por ordenador, pero Hick no tenía pruebas fehacientes. Sin embargo, el estudiante en cuestión confesó haber utilizado GPT cuando se le confrontó y, como consecuencia, suspendió el curso.[31][32][33]​ Hick sugirió la política de realizar un examen oral individual ad hoc sobre el tema del trabajo si se sospecha que un estudiante ha presentado un trabajo generado por IA.[34]

A partir del 4 de enero de 2023, el Departamento de Educación de la ciudad de Nueva York ha restringido el acceso a ChatGPT desde Internet y los dispositivos de sus escuelas públicas.[35]

Véase también[editar]

Referencias[editar]

  1. a b c d e OpenAI (30 de noviembre de 2022). «ChatGPT: Optimizing Language Models for Dialogue». Consultado el 5 de diciembre de 2022. 
  2. Welle (www.dw.com), Deutsche. «ChatGPT: el bot viral y futuro de la IA que podría cambiarlo todo | DW | 09.12.2022». DW.COM. Consultado el 12 de diciembre de 2022. 
  3. «What is ChatGPT and why does it matter? Here's what you need to know». ZDNET (en inglés). Consultado el 18 de diciembre de 2022. 
  4. Escribano, Mario (6 de diciembre de 2022). «Esta inteligencia artificial está metiendo miedo, pero no es para tanto: esto es lo que hay detrás». elconfidencial.com. Consultado el 18 de diciembre de 2022. 
  5. Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback. University of Texas at Austin. Consultado el 5 de diciembre de 2022. 
  6. a b Vincent, James (8 de diciembre de 2022). «ChatGPT proves AI is finally mainstream — and things are only going to get weirder». The Verge. Consultado el 8 de diciembre de 2022. 
  7. Schulman, John; Wolski, Filip; Dhariwal, Prafulla; Radford, Alec; Klimov, Oleg (2017). «Proximal Policy Optimization Algorithms». arXiv:1707.06347  [cs.LG]. 
  8. van Heeswijk, Wouter (29 de noviembre de 2022). «Proximal Policy Optimization (PPO) Explained». Towards Data Science. Consultado el 5 de diciembre de 2022. 
  9. Edwards, Benj (5 de diciembre de 2022). «No Linux? No problem. Just get AI to hallucinate it for you». Ars Technica. Consultado el 5 de diciembre de 2022. 
  10. a b Roose, Kevin (5 de diciembre de 2022). «The Brilliance and Weirdness of ChatGPT». The New York Times. Consultado el 5 de diciembre de 2022. 
  11. Gao, Leo; Schulman; Hilton, Jacob (2022). «Scaling Laws for Reward Model Overoptimization». arXiv:2210.10760  [cs.LG]. 
  12. Murphy Kelly, Samantha (5 de diciembre de 2022). «This AI chatbot is dominating social media with its frighteningly good essays». CNN. Consultado el 5 de diciembre de 2022. 
  13. «General availability of Azure OpenAI Service expands access to large, advanced AI models with added enterprise benefits | Blog y actualizaciones de Azure | Microsoft Azure». azure.microsoft.com. Consultado el 17 de enero de 2023. 
  14. Lock, Samantha (5 de diciembre de 2022). «What is AI chatbot phenomenon ChatGPT and could it replace humans?». The Guardian. Consultado el 5 de diciembre de 2022. 
  15. Hern, Alex (4 de diciembre de 2022). «AI bot ChatGPT stuns academics with essay-writing skills and usability». The Guardian. Consultado el 5 de diciembre de 2022. 
  16. Kantrowitz, Alex (2 de diciembre de 2022). «Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test"». Slate. Consultado el 5 de diciembre de 2022. 
  17. Krugman, Paul (6 de diciembre de 2022). «Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?». The New York Times. Consultado el 6 de diciembre de 2022. 
  18. Marche, Stephen (6 de diciembre de 2022). «The College Essay Is Dead». The Atlantic. Consultado el 8 de diciembre de 2022. 
  19. Herman, Daniel (9 de diciembre de 2022). «The End of High-School English». The Atlantic. Consultado el 12 de diciembre de 2022. 
  20. Pearl, Mike (3 de diciembre de 2022). «The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong». Mashable. Consultado el 5 de diciembre de 2022. 
  21. Vincent, James (5 de diciembre de 2022). «AI-generated answers temporarily banned on coding Q&A site Stack Overflow». The Verge. Consultado el 5 de diciembre de 2022. 
  22. Cowen, Tyler (6 de diciembre de 2022). «ChatGPT Could Make Democracy Even More Messy». Bloomberg News. Consultado el 6 de diciembre de 2022. 
  23. Sharma, Ax (6 de diciembre de 2022). «OpenAI's new ChatGPT bot: 10 dangerous things it's capable of». Bleeping Computer. Consultado el 6 de diciembre de 2022. 
  24. Pascual, Manuel G. (27 de diciembre de 2022). «ChatGPT, la inteligencia artificial de moda, permite que cualquiera pueda lanzar un ciberataque». El País. Consultado el 10 de enero de 2023. 
  25. Vincent, James (5 de enero de 2023). «Top AI conference bans use of ChatGPT and AI language tools to write academic papers». The Verge (en inglés estadounidense). Consultado el 25 de enero de 2023. 
  26. Herman, Daniel (9 de diciembre de 2022). «The End of High-School English». The Atlantic (en inglés). Consultado el 10 de enero de 2023. 
  27. Stokel-Walker, Chris (9 de diciembre de 2022). «AI bot ChatGPT writes smart essays — should professors worry?». Nature (en inglés). doi:10.1038/d41586-022-04397-7. Consultado el 10 de enero de 2023. 
  28. Bowman, Emma (19 de diciembre de 2022). «A new AI chatbot might do your homework for you. But it's still not an A+ student». NPR (en inglés). Consultado el 10 de enero de 2023. 
  29. Stern, Joanna. «ChatGPT Wrote My AP English Essay—and I Passed». WSJ (en inglés estadounidense). Consultado el 25 de enero de 2023. 
  30. Archive, View Author (26 de diciembre de 2022). «Students using ChatGPT to cheat, professor warns» (en inglés estadounidense). Consultado el 25 de enero de 2023. 
  31. «Professor catches student cheating with ChatGPT: ‘I feel abject terror’». New York Post (en inglés estadounidense). 26 de diciembre de 2022. Consultado el 10 de enero de 2023. 
  32. «How to Detect OpenAI ChatGPT Output - Commander SEO» (en inglés estadounidense). 14 de diciembre de 2022. Consultado el 25 de enero de 2023. 
  33. Tran, Tony Ho (4 de enero de 2023). «A College Kid Built an App That Sniffs Out Text Penned by AI». The Daily Beast (en inglés). Consultado el 25 de enero de 2023. 
  34. Tran, Tony Ho (4 de enero de 2023). «A College Kid Built an App That Sniffs Out Text Penned by AI». The Daily Beast (en inglés). Consultado el 10 de enero de 2023. 
  35. «NYC Bans Students and Teachers from Using ChatGPT». www.vice.com (en inglés). Consultado el 10 de enero de 2023. 

Enlaces externos[editar]