La detección de contenidos mediante IA no es perfecta, y puede producir falsos positivos. Estos falsos positivos pueden ser muy dolorosos para cualquiera que cree contenido original. Tanto si eres un estudiante que ha sido acusado injustamente de utilizar ChatGPT por TurnItIn o GPTZero o un escritor que haya recibido un falso positivo con Originality.ai, este artículo pretende ayudarte.
Descubre cómo funciona la detección por IA, los índices de precisión, qué hacer si te han acusado injustamente y consejos para evitarlo en el futuro.
Este artículo ofrece un breve resumen de las preguntas más comunes sobre los falsos positivos del detector de contenidos de IA, que puede serte útil si te han acusado de utilizarla. Para profundizar en cada tema, consulta los enlaces de lectura recomendada dentro de las secciones.
Qué hacer si te acusan falsamente – Como estudiante
Si realmente has creado (sin participación de IA) un texto y te acusan de haberlo creado con IA, aquí tienes los pasos que puedes seguir.
- Tómate tu tiempo – Una reacción instintiva a menudo puede empeorar la situación. Tómate el tiempo que necesites para responder de forma inteligente.
- Recopila información relevante
- Revisa la política de integridad académica de tu centro en lo que se refiere al uso de la IA.
- Recoge cualquier nota de trabajo, historial de revisiones, etc, que demuestren que te has esforzado mucho en el trabajo.
- Lo ideal es que hayas creado el texto en un documento de Google, y puedes utilizar la extensión gratuita para Chrome Originality.ai para mostrar todo el proceso de creación del documento.
- Encuentra contenido relevante que muestre la precisión de detección y los falsos positivos de las herramientas.
- Comprueba tu trabajo enviado anteriormente para demostrar que tu trabajo actual es similar al enviado anteriormente.
- Siente empatía por tu profesor: tiene que mantener la integridad académica de su institución ante una oleada de estudiantes que utilizan la IA para hacer trampasy las herramientas que tienen para combatirlo son imperfectas.
- Envía una respuesta educada a tu profesor: comunícale la información que has recopilado de forma educada/respetuosa y que estás seguro de que se trata de un falso positivo.
- Eleva el asunto a la administración de tu institución si no se resuelve con tu profesor.
Qué hacer si te acusan falsamente – Como escritor
Si eres escritor y te han acusado falsamente de que AI crea contenidos, puedes:
- Recopilar información relevante
- Revisa si tu acuerdo por escrito establecía que la IA no estaba permitida.
- Determina si se acordó una puntuación y una herramienta de detección de IA determinadas (no es una forma recomendable de gestionar el uso indebido de la IA).
- Busca trabajos enviados anteriormente o similares y pásalos por un detector de IA.
- Proporcionar investigación y orientación sobre cómo manejar las puntuaciones de detección de IA (ver Precisión de la detección de IA y Cómo utilizar las puntuaciones de detección de IA para más información).
- Comparte la información pertinente con quien te esté acusando incorrectamente de utilizar IA (si puedes compartir la información, debería ayudar a resolver los problemas con los falsos positivos).
- Demuestra que tu otro trabajo similar era original.
- Muestra el proceso de creación (utilizando nuestro extensión gratuita ChatGPT detector Chrome) tanto de tu contenido anterior como del contenido en cuestión.
- Comparte la investigación (precisión de detección de la IA & recomendaciones sobre cómo utilizar las puntuaciones de detección de la IA).
Cómo evitar falsos positivos
He aquí algunos consejos para evitar y resolver los falsos positivos.
- Una puntuación de detección de 60% Original y 40% AI no es un falso positivo. Predijo correctamente con un 60% de confianza que tu contenido era Original. El significado de la puntuación no es que el 60% fuera Original y el 40% AI; significa que es 60% de confianza en que el contenido es original.
- Crea todos los artículos en Google Docs (siempre que sea posible) para que puedas utilizar nuestra herramienta gratuita Extensión de Chrome para ayudarte a DEMOSTRAR que tu contenido es Original.
- Editar contenido escrito por IA no es un falso positivo; es un verdadero positivo.
- Que la IA edite tu trabajo no es un falso positivo; es un verdadero positivo.
- Cuando cualquier cantidad de IA toca el contenido, puede hacer que todo el artículo se marque como IA.
- La escritura «cíborg», en la que se utilizan muchas herramientas de IA para crear un esquema, sugerir ediciones y optimizar el contenido, puede aumentar la probabilidad de que un puntuación de IA.
- Por esta razón, creamos un optimizador de contenidos gratuito herramienta similar a SurferSEO o MarketMuse pero 100% gratuito que no utiliza IA para reducir la posibilidad de que se produzca un falso positivo.
- Un formato extraño puede reducir la precisión de las herramientas detectoras, provocando un aumento de falsos positivos o falsos negativos.
- Cuanto más corto sea el texto, menos precisa será la puntuación de detección. Recomendamos comprobar al menos 100 palabras.
«Falsos positivos en la detección de IA son un GRAN negocio y se no desaparecerá con el uso de la generativa». La IA sigue ascendiendo. Esperamos que este artículo ayude a la gente a comprender las limitaciones de las herramientas de detección y a compartir estrategias sobre su uso adecuado y sobre cómo probar la Originalidad.
¿Qué es la detección de contenidos mediante IA?
En Detector de contenidos AI es una inteligencia artificial entrenada para distinguir la diferencia, cada vez más sutil, entre el texto generado por la IA y el generado por humanos.
El malentendido más común:
Una puntuación de detección de 60% IA y 40% Original debe leerse como «hay un 60% de posibilidades de que el contenido haya sido generado por IA», y NO como que el 60% del artículo es generado por IA y el 40% es Original.
Una puntuación de 60% Original y 40% IA, si sabes que el contenido fue 100% creado por ti, no es un falso positivo. Identificó correctamente el contenido como Original.
¿Cuál es la precisión de los detectores de IA?
Los Detectores de IA NO son precisos al 100% y nunca lo serán. Hemos realizado pruebas exhaustivas sobre el índice de precisión de Originality.ai, y varía en función de la herramienta de IA Generativa y el gran modelo de lenguaje (LLM) que se utilicen para crear el contenido.
Con nuestro último modelo Versión 2.0.1 Estándar, publicada en julio de 2024, la la precisión es del 99%+.con un tasa de falsos positivos inferior al 2%.
Junto con esta versión, presentamos Lite 1.0.0 con 98% de precisión, a 1% de falsos positivos que es ½ del modelo estándar, y que permite una edición AI ligera (como las herramientas de ortografía y gramática de Grammarly).
Para más información, consulta el Estudio sobre la precisión de la detección de IA.
A continuación, revisa un metaanálisis de seis estudios de terceros que demuestran la excepcional detección de IA de Originality.ai.
Prueba nuestro comprobador de contenido de IA aquí.
Consulta nuestras pruebas completas de precisión del detector de IA aquí.
Precisión de detección de Originality.ai en GPT-4
Un rápido resumen que muestra la precisión de Originality.ai en GPT-4 en comparación con otras herramientas de detección de IA (ten en cuenta que esto se completó con un modelo anterior).
Utilizamos a matriz de confusión para comprobar la precisión de un detector de IA frente a un conjunto de textos generados por IA y escritos por humanos.
- Verdadero positivo – Detector de IA correctamente identificó el contenido como IA.
- Falso negativo – Detector de IA incorrectamente identificó el contenido AI como Humano.
- Falso positivo – Detector de IA incorrectamente identificó el contenido humano como IA.
- Verdadero negativo – Detector de IA correctamente identificó el contenido humano como IA.
A continuación se muestran los resultados de un estudio que compara la precisión y los falsos positivos de Originality.ai frente a otros detectores de IA
¿Es fácil engañar a los detectores de IA?
Muchos detectores de IA existentes tienen una forma muy fácil de engañarlos. Basta con cambiar algunas palabras utilizando una herramienta de parafraseo como Quillbot para eludir la detección, excepto Originality.ai. Originality.ai puede detectar si el contenido es IA, original o parafraseado.
¿Qué es y qué no es un falso positivo?
Un falso positivo es cuando un detector de IA identifica incorrectamente contenido creado por humanos como probablemente generado por una IA.
A menudo se producen malentendidos cuando se habla de falsos positivos. Para mayor claridad, he aquí cómo Originality.ai pretende identificar contenidos de IA frente a contenidos originales en diferentes escenarios de creación de contenidos…
- Generado por IA y no editado = Texto generado por IA.
- Generado por IA y editado por humanos = Texto generado por IA.
- Esquema de IA, escrito por humanos y editado en gran medida por IA = Texto generado por IA.
- Investigación de IA y Escrito por Humanos = Original Generado por Humanos.
- Escrito por humanos y editado con Grammarly = Original generado por humanos.
- Escrito y editado por humanos = original generado por humanos.
Por tanto, si el contenido fue esbozado por una IA, entonces parte del contenido fue escrito por un humano y finalmente editado/ampliado por una IA; Originality.ai pretende identificar esto como generado por la IA. No se trata de un falso positivo.
De forma similar y más obvia, si ChatGPT crea un contenido y luego alguien lo edita concienzudamente, pero aun así se identifica como generado por IA, no se trata de un falso positivo.
¿La edición de IA debe tratarse como IA u original?
Se trata de una pregunta delicada que sigue debatiéndose a medida que aumenta el uso de la IA. El lanzamiento de nuestro Lite 1.0.0 permite una edición ligera de la IA como el uso de herramientas populares como las sugerencias ortográficas y gramaticales de Grammarly mientras se edita.
En general, es mejor mantener la transparencia cuando se utiliza IA, ya sea para esbozar contenidos o para editarlos.
¿Cómo deben utilizarse los detectores de IA?
Así pues, en un mundo en el que la tasa de falsos positivos no es (ni será nunca) del 0%, ¿cómo deben utilizarse los detectores de IA?
La detección de IA no proporciona un resultado demostrable para cada fragmento de texto, lo que significa que ningún detector de IA puede decir con certeza demostrable que así es como SABEMOS que tu contenido fue creado con IA.
Por lo tanto, es mejor…
- No tener una norma DURA según la cual cada contenido DEBE cumplir un determinado umbral.
- Observa una serie de artículos del mismo escritor para identificar a los escritores que probablemente utilizan IA frente a los que no.
Muchos clientes de Originality.ai que utilizan esta estrategia han podido identificar con éxito a escritores que utilizaban IA (aunque se les había pedido que no lo hicieran). Además, los clientes de Originality.ai que utilizaban este enfoque confiaban en poder ignorar con seguridad un presunto falso positivo.
Lee los casos prácticos de cómo los clientes han tenido éxito con Originality.ai.
Sin embargo, para la acción disciplinaria académica, las puntuaciones de detección de la IA por sí solas no bastan.
Si las puntuaciones de detección no son perfectas, ¿por qué molestarse en utilizar herramientas de detección?
Algunos podrían preguntarse si es responsable tener una herramienta de detección de IA si no es perfecta. En Originality.ai, confiamos en los índices de detección de nuestras pruebas y en las medidas adicionales que hemos tomado para intentar reducir/gestionar los «Falsos positivos»., incluidas las herramientas gratuitas que ofrecemos».
En un mundo en el que se permitiera que los contenidos de IA corrieran salvajes sin control, el impacto sobre muchos de nosotros sería significativo.
- Para Editores Web – Si te preocupa mantenerte en el lado correcto de la orientación de Google con Contenido generado por IA «Utilizar la automatización -incluida la IA- para generar contenidos con el objetivo principal de manipular la clasificación en los resultados de las búsquedas es una violación de nuestras políticas de spamentonces el uso de detectores de IA puede ayudarte a proteger tu sitio.
- Si te parece bien publicar contenido generado por IA, entonces no necesitas detectores de IA ni redactores caros.
- Para Agencias de marketing de contenidos – Si no se utilizan detectores de IA, resulta difícil comunicarse con los clientes que piden pruebas de que el contenido no está generado por IA.
- Para Escritores – Si no se utilizan detectores de IA, podrías estar compitiendo contra un ejército de Usuarios de ChatGPT mientras luchas por demostrar la valía de tu contenido.
- Para Academia (Estudiantes/Profesores/Instituciones educativas) – Si se permite que la IA se utilice sin control, repercute negativamente en el valor del título.
ChatGPT y otras herramientas de IA como HuggingChat ya están aquí, no hay vuelta atrás. Todos los que nos dedicamos a escribir tenemos que adaptarnos a este nuevo mundo.
Múltiples ejemplos de estudiantes acusados falsamente de utilizar IA
El auge del ChatGPT y de los detectores de IA ha provocado algunas situaciones desafortunadas en el mundo académico.
He aquí algunos ejemplos:
- «Mi profesor me acusó falsamente de utilizar chatgpt para escribir mi redacción». (Mensaje de Reddit)
- «Mi profesor me ha acusado falsamente de utilizar ChatGPT para utilizar una tarea». (Publicación en Reddit)
Para que quede claro… nosotros no creemos que una puntuación de detección de IA por sí sola es suficiente para adoptar medidas disciplinarias. Si un informe indica el uso potencial de IA, revisa siempre el contenido cuidadosamente y caso por caso.