¿Cómo saber si lo que lee es humano o es de ChatGPT? DEBATE DEFINITIVO Febrero 2023 ¿Es bueno o malo?

f93704df e653 43d8 a026 806ef942ca73

Buenos días a todos mis dodescos lectores. vamos al punto. Hablamos de nuestr@ querid@ amig@ ChatGPT. Es cierto, que ha sido toda una novedad, y ya se ha hablado hasta la saciedad de todo lo que es capaz de hacer esta herramienta, y para quienes no me conocen, me presento. Me llamo Alfredo Alejandro Narváez soy Analista de investigación, he sido profesor, consultor, y asesor en temas de ciencia y tecnología.

Retomando, aquí plantearemos dos puntos, saber si quien esta detrás de las lineas es una persona y no una máquina contestadora, y si eso es bueno o malo.

Punto 1: Autenticidad humana o digital:

WAWAWAWAWA. ¿Qué? Sorprendido? No se asuste, cada escritor HUMANO tiene excentricidades y el hecho de que realizara algo tan absurdo y soez le hace pensar claramente (aparte de que como escritor quería hacer un troleo) que al menos quien le escribe es un humano. Pero ya, hablando en serio. NO se han planteado miles de formas y miles de herramientas al respecto, si comparamos las cantidad de compañías y aplicaciones que están experimentando con el código base de análisis (no le llamo IA o de razonamiento porque es bastante cuestionable ese término hoy en día, y si quieren saber mas al respecto les invito a leer mi investigación en el siguiente enlace https://www.arthii.com/son-chatgpt-y-otras-aplicaciones-de-desarrollo-autenticas-ia-las-paradojas-de-la-inteligencia-artificial/), es que no hay casi herramientas para detectar si algo es generado por ChatGPT o cualquiera de sus programas derivados.

Actualmente hay tres herramientas especializadas en la detección de textos escritos por IA: Writer, ChatGPT Detector y GPTZero. Las tres son gratuitas y las tres Ya se han probado. En algunas paginas se han probado, pero existen restricciones, precisamente por el hecho de que son gratuitas. Para empezar, estas restricciones aplican para el número de dígitos o caracteres que se pueden analizar, un software promedio solo puede analizar si a lo mucho 2000 caracteres, pero es que para insultar por twitter hay mas caracteres que lo que permiten estos analizadores, y por si fuera poco, el resultado es INCONCLUSO. Es lógico, no hay suficiente base de datos para determinar parámetros de ordenamiento de lenguaje, y por ello no puede determinar a priori si lo que lo genero es un humano o una tostadora.

A grandes rasgos los procesadores y analizadores de plagio no están preparados para algo así, porque evade todos sus radares, ya que en teoría es un conocimiento nuevo que no esta registrado en ninguna literal de la web y tratan entonces de centrarse en los siguientes aspectos:

1.-Observando el estilo y el tono del texto: Si el texto es formal, preciso y objetivo, es posible que haya sido generado por una IA. Por otro lado, si el texto es más descriptivo, subjetivo o emocional, es más probable que haya sido escrito por un ser humano.

2.-Buscando errores gramaticales o de ortografía: Los modelo de lenguaje, tratan de evitar errores gramaticales y ortográficos en sus respuestas. Si encuentras varios errores en el texto, es más probable que haya sido escrito por un humano.

3.-Analizan el contenido del texto: Si el texto se centra en datos o hechos específicos, es posible que haya sido generado por una IA. Por otro lado, si el texto se centra en la opinión o la perspectiva personal, es más probable que haya sido escrito por un ser humano.

Este ultimo ítem en particular, es un poco Meh… porque si un contenido o texto tiene que basarse en precisamente un hecho especifico entonces es un dolor de cabeza tratar de evaluar si realmente fue hecho por la maquina y no por el humano.

Hasta ahora evaluemos que esto depende del tipo de Texto, si es corto, mediano o largo. Mientras mas extenso sea un texto y mientras más técnico necesite ser la redacción mas probable es que haya sido escrito por una IA; excepto claro que estemos trabajando a nivel profesional o de rango de experticia, y sin embargo, las formas de escritura humana están llenas de unicidades y excentricidades que nos hacen propiamente, pues Humanos.

¿Qué les diría a mis colegas profesores, profesionales que están pasando por esta “Plaga de abuso de Chatgpt” ? Debemos estar mas atentos con nuestros estudiantes, empleados y supervisados y conocerlos mas. Estar atentos a sus formas de escritura, estar atentos incluso a los pequeños detalles por ejemplo si redacta todo en un párrafo completo, o lo separa en párrafos independientes, incluso estar atentos al vocabulario o el lenguaje, aquí otro ejemplo es si en Latinomérica usan la palabra “ordenador” lo cual es absurdo, no es de uso habitual y esta palabra se usa solo en España, ya que en Latinoamérica preferimos usar la palabra “computadora, pc, etc”

Hagan un muestreo aleatorio, tomen un párrafo al azar de cualquier texto, (elijan los mas sospechosos) y pásenlo por GPTzero, si encuentran que este es una máquina, ya saben que deben hacer.

¿Y que sucede si el texto es generado realmente por un humano? los humanos no tendrían problema en seguir usando los mismas palabras, ensamblar de la misma forma, crear de la misma manera. Por lo general si evalúan a un humano en un juego de ajedrez, se darán cuenta que siempre elige sus primeros 5 movimientos de la misma manera, porque funcionamos por hábito, por repetición. No significa que seamos los mejores haciéndolo, pero es lo que nos permitió hacer nuestra capacidad evolutiva. Algo que incumpla este patrón no es de orden natural, y por lo tanto es de orden artificial, ya que los humanos los hacemos por transiciones evolutivas. Nunca introducimos un cambio drástico con éxito en el primer intento.

Punto 2: ¿Es bueno o es malo?

Lo peor, lo peor es la DEPENDENCIA que quiere provocar ChatGPT en los usuarios, como herramienta versátil de multiuso. No me lo tomen a mal, estaría llegando 30.000 años tarde a esta discusión, desde la invención de la agricultura, hasta la literatura, y terminando con Google. No estoy en contra del uso del conocimiento, esta bien, y tampoco juguemos a ser santos, sabemos de sobra que la estrategia de la compañía es garantizar el mercado para poder valorar su producto, incluso yo de cuando en vez me he visto tentado por sus encantos, y el anhelo de que pueda ser más, pero es frustrante que su versión inicial sea tan incipiente, y de paso vendido a bombos y platillos como “la revolución tecnológica de nuestra era”. Les diría que no esta mal, pero pudieron hacerlo mejor si le hubieran pagado lo que les correspondía a los científicos y desarrolladores, que fueron explotados hasta el cansancio…pero en fin, es harina de otro costal, regresemos al punto.

Estamos pasando por un nuevo contexto cultural donde ha bajado demasiado el rendimiento educativo. Lo diré en palabras simples, cada generación está menos preparada que la anterior. La herramienta en las manos correctas se puede aprovechar en manos de aquellos quienes saben que buscar y como buscar (los ingenieros Prompt por ejemplo), pero en la sociedad actual…bueno, no se necesita ser un genio para predecir que este resultado, en efecto NO, no es bueno. Ya que el trabajo que mandaron a hacer, se lo mandaron al estudiante, no a la máquina. Las empresas también deberían evaluar que les conviene más, si el rendimiento que les ofrece un humano o lo certidumbre y certeza que les ofrece una máquina.

Este ultimo lo padecen y lo sufren las personas que tienen que evaluar parámetros de comprensión y creatividad, los profesores, los analistas, incluso hasta los nuevos redactores para paginas web. Ya que debemos partir del hecho de que algo sea más sencillo no significa que pueda ser o no del todo correcto.

Este debate seria ambiguo, tristemente, tiene mucho que ofrecer pero muchas limitantes que superar. Desde las amenazas laborales, el incentivo a la economía, hasta la consecuencia cultural, se pierde el conocimiento general, porque “para quésaberlo si es mas fácil buscarlo por Google?” Esto es preocupante, porque se ha visto como la información que esta en internet no es del todo confiable o real, no hay parámetros de credibilidad o control de la información.

¿Se puede prohibir chatgpt? Aquí entramos en un terreno legal y moral. Legalmente NO es plagio. Dependiendo de su uso sabemos que podría estar éticamente moral. La definición de plagio se basa en 4 ordinales: usar las palabras exactas, con el mismo propósito, con el mismo contexto y tomado de una fuente directa. Esto no aplica en un caso similar a este: si yo digo el nombre de la palabra “CARRO” el sistema diría que es plagio pero no hay otra forma de referirme al vehículo de 4 ruedas que circula en el transito. Tampoco aplica si alguien esta haciendo una tesis de diseño de carrocerías para CARROS y una tesis que se dedica a la mejora de los motores de CARROS. Ven que usamos la misma palabra pero son 2 contextos radicalmente diferentes? entonces así como estas situaciones hay miles falsas alarmas de plagio que los programas no son capaces de detectar.

¿Y que pasa con ChatGPT? Se lo salta!!!! por completo, si le pides que redefina el texto puede hacerlo una y mil veces introduciendo variaciones que no se pueden apreciar. ¿Y esto es permitido? Hecha la ley existe la trampa, pero impedir que los estudiantes hagan trampa depende de la pericia del evaluador, y del código moral del mismo. Personalmente si un estudiante me hiciera algo así, lo reprobaría. Pero no por el he cho de usar la herramienta, sino de no haber tomado las previsiones para que no me diera cuenta. Al menos si van a hacer algo, háganlo bien en primer lugar! Pero más allá de la opinión, existen cierto ejercicios profesionales donde no tiene cabida al mismo, por ejemplo en el caso de profesiones médicas o profesiones de borde limite. Entiéndase profesiones que se juegan responsabilidades mas grandes donde miles de personas pueden encontrarse afectadas. O la vida de las personas, porque en momentos críticos las decisiones de estos profesionales se juegan la integridad de miles de personas. Por eso se les exige un alto nivel de estándar desde las instituciones, porque es la responsabilidad de un líder de tal naturaleza estar capacitado para tomar la decisión cuando su profesión y las circunstancias de crisis se lo exijan.

¿Pero finalmente, es bueno o malo? Depende del contexto, en el formato actual que manejamos esta herramienta no tendría cabida, y seria MALO, porque seria una violación flagrante de los estatutos y parámetros que se estiman en la formación académica y profesional de hoy en día. Partamos de este principio: Todas las carreras que dependan de la aplicación, y difusión del conocimiento, quedan por tanto EXTINTAS. Todas. La única manera de que su empleo no sea sustituido por una máquina es que ud pueda crear nuevo conocimiento que los ordenadores no tengan almacenados en internet, o que existan carreras de desempeño y marketing que no puedan ser ejecutadas por maquinas: deportes, desempeños físicos, competiciones, entre otros. Pero eso solo seria una barrera temporal que sera superada con el tiempo.

Para cualquier comentario o sugerencia, si desean revisar las bases de datos que soportan esta información, con mucho gusto pueden escribirme, sera un honor compartir sus opiniones y poderlas debatir, sin duda estos son temas nuevos que requieren de nuevas plataformas y de nueva difusión cultural. Bendiciones para todos!

Correo electrónico: alfredoanarvaez@gmail.com

Recomendado1 recomendación

Publicaciones relacionadas

1 Comentario
Ver comentarios más antiguos
Ver comentarios más recientes Ver comentarios más votados
Comentarios en línea
Ver todos los comentarios
Iker Daniel
9 meses atrás

Hola Alfredo
Es sorprendente la manera en que explicas los temas.
“¿Pero finalmente, es bueno o malo? Depende del contexto”: Este es uno de los puntos más destacables, la herramienta es muy eficaz para retomar ideas, pero no es bueno depender únicamente de él.
Saludos

¡Descubre los increíbles beneficios de esta valiosa comunidad!

Lector

Escritor

Anunciante