Implicaciones de ChatGPT

en ciberseguridad

Check Point Research y otros notaron que ChatGPT era capaz de escribirsuplantación de identidadcorreos electrónicos ymalware, especialmente cuando se combina conCódice OpenAI.El CEO de OpenAI escribió que el avance del software podría representar "(por ejemplo) un gran riesgo de seguridad cibernética" y también continuó prediciendo que "podríamos llegar a AGI real (inteligencia general artificial) en la próxima década, por lo que tenemos que tomar el riesgo de eso muy en serio”.Altman argumentó que, si bien ChatGPT "obviamente no está cerca de AGI", uno debería "confiar en elexponencial.Plano mirando hacia atrás,vertical mirando hacia adelante.”

en la academia

ChatGPT puede escribir secciones de introducción y resumen de artículos científicos, lo que plantea cuestiones éticas.Varios artículos ya han incluido a ChatGPT como coautor.

EnEl Atlánticorevista,Esteban Marcheseñaló que su efecto en la academia y especialmenteensayos de aplicaciónaún está por entender.El profesor de secundaria y autor de California, Daniel Herman, escribió que ChatGPT marcaría el comienzo del "fin del inglés de la escuela secundaria".En elNaturalezarevista, Chris Stokel-Walker señaló que los maestros deberían preocuparse por los estudiantes que usan ChatGPT para subcontratar su escritura, pero que los proveedores de educación se adaptarán para mejorar el pensamiento crítico o el razonamiento.Emma Bowman conNPRescribió sobre el peligro de que los estudiantes plagien a través de una herramienta de inteligencia artificial que puede generar texto sesgado o sin sentido con un tono autoritario: "Todavía hay muchos casos en los que le haces una pregunta y te dará una respuesta que suena muy impresionante y que está totalmente equivocada".

Joanna popa conEl periodico de Wall Streetdescribió hacer trampa en inglés de la escuela secundaria estadounidense con la herramienta al enviar un ensayo generado.Profesor Darren Hick deUniversidad Furmandescribió haber notado el "estilo" de ChatGPT en un documento enviado por un estudiante.Un detector GPT en línea afirmó que el documento tenía un 99,9 por ciento de probabilidad de haber sido generado por computadora, pero Hick no tenía pruebas sólidas.Sin embargo, el estudiante en cuestión confesó haber usado GPT cuando lo confrontaron y, como consecuencia, reprobó el curso.Hick sugirió una política de dar un examen oral individual ad-hoc sobre el tema del trabajo si se sospecha fuertemente que un estudiante está enviando un trabajo generado por IA.Edward Tian, ​​estudiante de último año de pregrado enUniversidad de Princeton, creó un programa, llamado "GPTZero", que determina qué parte de un texto es generado por IA, lo que se presta para detectar si un ensayo es escrito por humanos para combatirplagio académico.

A partir del 4 de enero de 2023, el Departamento de Educación de la ciudad de Nueva York ha restringido el acceso a ChatGPT desde el Internet y los dispositivos de su escuela pública.

En una prueba ciega, se consideró que ChatGPT había aprobado los exámenes de posgrado en laUniversidad de Minnesotaen el nivel de un estudiante C+ y enEscuela Wharton de la Universidad de Pensilvaniacon una calificación de B a B-.(Wikipedia)

La próxima vez hablaremos sobre las preocupaciones éticas de ChatGPT.