Interesante

OpenAI acaba de lanzar un algoritmo de redacción de noticias falsas aún más aterrador

OpenAI acaba de lanzar un algoritmo de redacción de noticias falsas aún más aterrador

OpenAI, la compañía de inteligencia artificial que Elon Musk fundó y luego renunció, acaba de lanzar una versión más poderosa de su software de escritura de texto de inteligencia artificial.

La compañía aún no lanzará su software completo, que se puede usar para escribir noticias y mensajes falsos en masa, debido a los temores de que se use indebidamente.

RELACIONADO: MICROSOFT INVERTIRÁ UNA GRAN CANTIDAD DE $ 1 MIL MILLONES EN UNA ASOCIACIÓN CON OPENAI

¿Qué hace OpenAI?

OpenAI dice que su sistema de escritura de texto es tan avanzado que puede escribir noticias e incluso ficción que se hace pasar por humanos.

Un usuario puede alimentar el texto del sistema, desde unas pocas oraciones hasta páginas, y el sistema continuará ese mismo texto en un estilo humano increíblemente bien escrito y contextualmente relevante.

Sin embargo, después de lanzar su sistema original, GPT-2, en febrero, la compañía dijo que el software completo era demasiado peligroso para lanzarlo al público: se puso a disposición una versión más débil.

Ahora, la compañía ha anunciado que ha lanzado una versión de GPT-2 que es seis veces más potente.

De hecho, puede probar el último sistema público OpenAI en TalkToTransformer.com. Los resultados pueden ser inquietantemente realistas, aunque hay defectos obvios en la redacción.

OpenAI sigue teniendo cuidado

Según la declaración de OpenAI, todavía hay una versión aún más poderosa de GPT-2 que la compañía aún no ha revelado.

La compañía dice que planea lanzar el modelo más poderoso dentro de Unos pocos meses, pero puede que no lo haga si determina que las personas están usando el nuevo y más fuerte GPT-2 de forma maliciosa.

En el momento del anuncio original del lanzamiento de GPT-2 en febrero, Jack Clarke, jefe de política de OpenAI, dijoEl guardián hay "muchas personas que son mejores que nosotros para pensar en lo que [la IA] puede hacer maliciosamente".

Podría usarse, por ejemplo, para generar infinitas críticas falsas positivas o negativas, como si las hubiera escrito una persona real.

¿Una cura para las noticias falsas?

Si bien OpenAI nos acerca a la dominación mundial de la IA, un grupo de investigadores de Harvard y del MIT ha estado desarrollando un método para utilizar la IA para luchar contra la IA.

Los investigadores desarrollaron un sistema, denominado GLTR, que utiliza un algoritmo para rastrear la probabilidad de que un pasaje haya sido escrito por IA o no.

Será interesante ver si GLTR alguna vez se enfrenta a la versión más fuerte de GPT-2, si alguna vez se lanza al público, claro. Las guerras de la IA pueden estar sobre nosotros.


Ver el vídeo: Estas son las noticias falsas sobre el Covid-19. De Pisa y Corre (Enero 2022).