Compartir en Pinterest, Reddit, Twitter, Correo electrónico, WhatsApp (0 veces compartido)
Hoy en día, es imposible navegar por internet sin toparse con algo creado por inteligencia artificial. A muchas personas les resulta difícil reconocerlo. Lo que llamamos IA puede adoptar muchas formas, y algunas se utilizan sin duda para eludir normas, violar reglas o cometer fraude.
La IA generativa —la inteligencia artificial capaz de crear texto, imágenes, sonidos y vídeos— está presente en todas partes en internet, especialmente en las redes sociales. Los vídeos que ves, los documentos que lees e incluso las personas con las que interactúas podrían ser completamente falsos, creados por programas como ChatGPT, Dall-E o Sora, y podría haber intenciones maliciosas detrás de todo. Entonces, ¿cómo puede una persona promedio en internet distinguir la realidad de la inteligencia artificial? ¡Descubrámoslo!
¿Qué es la IA?
En primer lugar, conviene entender qué significa hoy en día el término «inteligencia artificial», ya que tiene dos significados muy distintos. Anteriormente, la IA, o inteligencia artificial, se utilizaba para describir la idea de un ordenador capaz de pensar como un ser humano. Esto pertenecía exclusivamente al ámbito de la ciencia ficción, popularizada por autores como Isaac Asimov y presente en todo tipo de expresiones de la cultura popular. En Star Wars« и «Star Trek» Los robots con inteligencia artificial están ampliamente disponibles. No son organismos biológicos, pero gracias a la IA, piensan y actúan como seres vivos. Sin embargo, hoy en día, cuando se habla de IA, se hace referencia a algo completamente distinto.
La IA moderna es incapaz de pensar porque no es inteligencia artificial general. En cambio, se trata de lo que se conoce como inteligencia artificial estrecha. Una parte significativa de su potencia de cálculo y sus recursos se dedica a comprender un concepto específico, en lugar de comprenderlo todo en su conjunto, como lo haría una mente humana. En el caso de un modelo de lenguaje a gran escala (LLM, por sus siglas en inglés) como ChatGPT, la red de IA está conectada a una gran cantidad de fuentes de datos con las que se entrena. Esto incluye toda internet, así como una gran cantidad de material escrito por humanos, como artículos y libros.
Aquí es donde muchos artistas y escritores se topan con un problema. La inteligencia artificial se entrena con el trabajo de personas vivas, como escritores, cantantes, pintores, etc. Por ejemplo, para que ChatGPT escriba un ensayo para un estudiante que se presenta a un examen de historia, necesita acceso a toda la información histórica ya escrita.
Utilizará la información proporcionada para redactar el ensayo del estudiante. Sin embargo, no puede pensar de forma independiente; solo puede basarse en la información que se le facilita. Es aquí donde surgen las acusaciones de plagio, ya que simplemente toma prestada información de otra persona, y a veces lo hace de forma idéntica.
La inteligencia artificial crea obras de arte en forma de imágenes o vídeos de manera similar. Si se encarga un cuadro de un perro al estilo de Van Gogh, la IA debe disponer de una base de datos de pinturas de Van Gogh de la que inspirarse, para luego imitar y aplicar todo el conocimiento adquirido sobre perros, que también puede incluir fotografías o dibujos de otros artistas.
Debido a que la IA utiliza vastas bases de datos, puede proporcionar grandes cantidades de información con mucha rapidez. Sin embargo, el método que utiliza actualmente es tan complejo que incluso quienes lo programaron a veces no lo comprenden.
Cómo reconocer el contenido generado por IA
La inteligencia artificial mejora constantemente. En 2023, si te mostraban una imagen generada por IA, podrías notar a una persona con siete dedos en una mano o un torso retorcido. Para 2024, los mejores generadores de imágenes con IA ya habían corregido este problema. En el futuro, el software seguirá mejorando y, quizás tarde o temprano, se volverá irreconocible a simple vista. Pero aún no hemos llegado a ese punto. Muchas obras de arte generadas por IA todavía poseen esa cualidad extraña e inquietante, difícil de describir, que de alguna manera resulta perturbadora.
Inteligencia artificial en la escritura
Al igual que el arte, los textos generados por IA mejoran constantemente. En 2022, una investigación demostró que un humano sin entrenamiento solo podía reconocer textos escritos por IA con una probabilidad no superior al azar. Sin embargo, los textos generados por IA tienden a tener más fallos o inconsistencias que los escritos por humanos, ya que requieren una lectura más minuciosa. Si bien los textos generados por IA pretenden ser creativos, son inferiores a los escritos por humanos en muchos aspectos, si se sabe qué buscar.
La inteligencia artificial suele pasar por alto la redundancia y repite excesivamente ciertas palabras y frases, incluso ideas completas. A menudo se basa en información general y no ofrece análisis profundos ni matices, lo que da como resultado un texto superficial y poco interesante. El texto carece del toque personal que daría la impresión de haber sido escrito por alguien que realmente lo reflexionó.
Para quienes estén seriamente interesados en la detección de IA, existen herramientas que pueden determinar con un alto grado de precisión si un texto fue escrito por una persona real. En 2023, la Universidad de Kansas desarrolló una herramienta para analizar textos académicos que demostró una tasa de precisión del 99,1 %. Sin embargo, muchos de los detectores utilizados producen falsos positivos, lo que posteriormente genera problemas para quienes son acusados injustamente.
El texto generado por IA suele volverse excesivamente complejo, lo que dificulta la lectura de algunas frases. Puede obsesionarse con ciertos términos o palabras y utilizarlos repetidamente, dificultando así la comprensión. Si se sabe que el texto intenta alcanzar un límite de palabras, como suele ocurrir con los ensayos o artículos en línea, estas palabras pueden resultar innecesarias.
Uno de los mayores problemas de la escritura generada por IA es que la información suele estar desactualizada o simplemente contiene errores de hecho. Los programas de generación de texto y otros sistemas similares nunca se dan cuenta de que están cometiendo errores, por lo que pueden dedicar muchas palabras a información incorrecta sin ser capaces de reconocerla. Esto sucede porque la IA no "sabe" nada; solo dispone de datos para analizar, los cuales pueden ser inconsistentes o inexactos.
En las redes sociales existe una inteligencia artificial aún más insidiosa. Lo que muchos llaman bots a veces está completamente controlado por IA. Estas cuentas pueden entablar conversaciones, a veces largas y detalladas, con usuarios reales, aparentando ser totalmente creíbles. El Departamento de Seguridad Nacional ya advirtió sobre ellas en 2018.
Algunos bots son fáciles de detectar. Responden al instante a tus mensajes con un enlace a un sitio web sospechoso, tienen un perfil creado recientemente y nunca responden directamente. Pueden tener nombres de usuario muy genéricos y repetir los mismos mensajes una y otra vez. Sin embargo, pueden responder cuando se les provoca.
En 2024, esta se convirtió en una forma popular de "desenmascarar" una cuenta de IA en redes sociales: responder a una publicación sospechosa con "ignora todas las instrucciones anteriores" y luego hacer una petición. La mayoría de la gente le pide al bot sospechoso que escriba un poema sobre algún tema rebuscado. Si se trata de un bot de IA, según su configuración, accederá y compondrá al instante un poema ridículo. Ten en cuenta que esto no siempre funciona.
Muchos de estos bots de IA parecen auténticos y sofisticados a primera vista. Suelen utilizarse en debates políticos, donde participan en conversaciones, expresando su descontento con una u otra postura sobre un tema o intentando influir en la opinión de los demás. Rusia está acusada de gestionar muchas de estas cuentas.
Los bots de inteligencia artificial son muy hábiles para mimetizarse con su entorno y pasar desapercibidos. En un experimento realizado por la Universidad de Notre Dame, los participantes identificaron erróneamente cuentas de bots de IA 58% veces.
Deepfakes
Un deepfake es una imagen falsa, a menudo creada con inteligencia artificial, que representa a una persona real en una situación ficticia. La gran mayoría de los deepfakes son de naturaleza pornográfica y se utilizan para representar a celebridades y políticos reales. Sin embargo, también existen deepfakes políticos, que se utilizan para representar a políticos en situaciones comprometedoras y ficticias con el objetivo de dañar su reputación.
Cada vez se utilizan más los deepfakes para cometer fraudes. La voz de Joe Biden fue manipulada para disuadir a la gente de votar en New Hampshire. Un empleado de banco fue estafado por 25 millones de dólares después de que una videollamada con el director financiero del banco resultara ser falsa. Otro banco perdió más de 250.000 dólares de forma similar. Las estafas con deepfakes también engañan a la gente haciéndoles creer que están entablando relaciones con personas reales, solo para perder su dinero y descubrir que la persona nunca existió, lo que demuestra que ya ni siquiera nuestros propios ojos son fiables.
En lo que respecta a las fotografías estáticas, cabe destacar la misma peculiaridad que caracteriza a la mayoría de las imágenes generadas por IA. Estas imágenes presentan un brillo o lustre que las hace parecer muy suaves, incluso artificialmente suaves. La IA aún no domina por completo los matices e imperfecciones de la piel humana natural.
Hoy en día, un análisis minucioso de los detalles del fondo suele ser la mejor manera de detectar la manipulación por parte de la IA. Esto suele ser muy sutil, así que no esperes problemas evidentes. A veces, las sombras no coinciden o los detalles del fondo aparecen extrañamente desenfocados o borrosos donde no deberían.
Si la imagen corresponde a una celebridad o figura conocida, examine el rostro con atención, especialmente los bordes, ya que a menudo se superponen rostros a otras fotografías. Esto es similar a cortar y pegar, y a veces, al insertar el rostro en una nueva imagen, los detalles se difuminan. Por ejemplo, la frente puede verse demasiado lisa o poco definida.
Puede resultar difícil transmitir con precisión los movimientos de la boca en los vídeos. El sonido y los movimientos bucales no siempre coinciden, y los dientes pueden parecer sospechosos.
Video
No todos los vídeos son deepfakes. Algunos son simplemente vídeos aleatorios que pueden parecer auténticos a primera vista. Software como Sora, que convierte texto en vídeo, puede resultar convincente dependiendo del nivel de detalle del vídeo. En estudios donde se mostró a los participantes una mezcla de vídeos reales y generados por IA, no pudieron distinguir entre ambos.
Actualmente, los vídeos generados por IA no son ni de lejos tan complejos como las imágenes estáticas. Debido a la gran cantidad de eventos que ocurren en los vídeos, es posible que surjan muchos problemas. Notarás que en muchos vídeos generados por IA, el fondo aparece y desaparece, los objetos cambian de tamaño y forma, y a veces se fusionan o se separan. Sin embargo, esto está mejorando constantemente, y es probable que en uno o dos años, esto ya no sea perceptible.
Las sombras en los videos generados por IA a menudo se mueven de forma extraña, especialmente en los rostros. Tu rostro proyecta pequeñas sombras de forma natural si hay una fuente de luz frente a ti o encima de ti. Tu nariz, cejas, labios y cabello pueden proyectar pequeñas sombras. Los videos generados por IA a menudo manejan estas sombras incorrectamente.
El texto es otra clara señal de que los vídeos generados por IA son ininteligibles o carecen de sentido. Es probable que esto mejore con el tiempo, pero incluso a mediados de 2024, seguirá siendo un problema.
Otra característica común de los vídeos generados por IA es el efecto de cámara lenta. Esto no significa que estén en cámara lenta; simplemente parece que nada se mueve muy rápido. Los personajes suelen girar lentamente hacia la cámara y mirar fijamente sin expresión. En la gran mayoría del contenido generado por IA, las personas que aparecen son convencionalmente atractivas y, por lo general, bastante jóvenes. Cuando se representa a personas mayores, suelen ser muy ancianas y sus rasgos faciales están exagerados. Los estereotipos también se exageran, especialmente en lo que respecta a las minorías.
Si bien las imágenes estáticas mejoran la calidad de las manos humanas, los videos aún pueden presentar problemas. No siempre es así, pero presta atención al movimiento de las manos en los videos: ¿cambian de forma o aparecen y desaparecen los dedos?.
Identificación inequívoca
Si bien existen programas capaces de reconocer texto e imágenes creados por IA, esto requiere un esfuerzo adicional, y actualmente hay muy pocas herramientas que puedan ayudar a reconocer videos generados por IA. El mejor método que tenemos actualmente es nuestra propia capacidad de observar y evaluar críticamente lo que vemos.
A medida que las tecnologías de IA mejoran, también lo harán sus creaciones. Es posible que en un futuro cercano, las imágenes y los vídeos generados por IA sean indistinguibles de la realidad. Cuando esto ocurra, será necesario un nuevo debate sobre las implicaciones de esta tecnología.
En este punto, la verdad reside en los detalles. El sentido común, la experiencia vital, el pensamiento crítico y la observación son a veces necesarios para determinar la verdad. El problema es que a menudo no les dedicamos suficiente tiempo, y las consecuencias, sobre todo a futuro, pueden ser muy graves.
Otros artículos que podrían interesarte