Implicaciones de ChatGPT

En ciberseguridad

Check Point Research y otros señalaron que ChatGPT era capaz de escribirphishingcorreos electrónicos ymalware, especialmente cuando se combina conCódice de IA abiertaEl CEO de OpenAI escribió que el avance del software podría plantear “(por ejemplo) un enorme riesgo de ciberseguridad” y también continuó prediciendo que “podríamos llegar a una verdadera IAG (inteligencia artificial general) en la próxima década, por lo que debemos tomarnos el riesgo de eso extremadamente en serio”. Altman argumentó que, si bien ChatGPT “obviamente no está cerca de la IAG”, uno debería “confiar en laexponencialPlano mirando hacia atrás,vertical mirando hacia adelante.”

En el ámbito académico

ChatGPT puede redactar las secciones de introducción y resumen de artículos científicos, lo que plantea cuestiones éticas. Varios artículos ya lo han incluido como coautor.

EnEl Atlánticorevista,Esteban Marcheseñaló que su efecto en el ámbito académico y especialmenteensayos de solicitudAún no se comprende. El profesor de secundaria y autor californiano Daniel Herman escribió que ChatGPT marcaría el fin del inglés en la escuela secundaria. En elNaturalezaEn la revista, Chris Stokel-Walker señaló que los profesores deberían preocuparse de que los estudiantes utilicen ChatGPT para externalizar su escritura, pero que los proveedores de educación se adaptarán para mejorar el pensamiento crítico o el razonamiento. Emma Bowman conNPREscribió sobre el peligro de que los estudiantes plagien a través de una herramienta de IA que puede producir textos sesgados o sin sentido con un tono autoritario: "Todavía hay muchos casos en los que le haces una pregunta y te dará una respuesta que suena muy impresionante pero que es completamente errónea".

Joanna Stern conThe Wall Street JournalDescribió el engaño en inglés de la escuela secundaria estadounidense con la herramienta mediante la presentación de un ensayo generado. El profesor Darren Hick deUniversidad FurmanDescribió haber notado el “estilo” de ChatGPT en un trabajo presentado por un estudiante. Un detector de GPT en línea afirmó que el trabajo tenía un 99,9 por ciento de probabilidad de haber sido generado por computadora, pero Hick no tenía pruebas contundentes. Sin embargo, el estudiante en cuestión confesó haber usado GPT cuando fue confrontado y, como consecuencia, reprobó el curso. Hick sugirió una política de realizar un examen oral individual ad hoc sobre el tema del trabajo si se sospecha firmemente que un estudiante presentó un trabajo generado por IA. Edward Tian, ​​un estudiante de último año de pregrado enUniversidad de Princeton, creó un programa llamado “GPTZero”, que determina qué parte de un texto es generada por IA, lo que permite utilizarlo para detectar si un ensayo fue escrito por humanos para combatirplagio académico.

A partir del 4 de enero de 2023, el Departamento de Educación de la Ciudad de Nueva York ha restringido el acceso a ChatGPT desde los dispositivos y la conexión a internet de sus escuelas públicas.

En una prueba a ciegas, se consideró que ChatGPT había aprobado los exámenes de nivel de posgrado en elUniversidad de Minnesotaal nivel de un estudiante C+ y enEscuela Wharton de la Universidad de Pensilvaniacon una calificación de B a B-. (Wikipedia)

La próxima vez hablaremos sobre las preocupaciones éticas del ChatGPT.