Más de 1,000 críticos preocupados por la inteligencia artificial, incluidos ejecutivos de la industria, académicos y especialistas en tecnología, han firmado una carta abierta instando a los laboratorios de IA a detener el desarrollo de sistemas de inteligencia artificial más poderosos que GPT-4 durante al menos seis meses (NBC News, 2023). Firmantes como Elon Musk, Steve Wozniak y el ex candidato presidencial estadounidense Andrew Yang creen que esta pausa permitiría a las personas adaptarse a los sistemas de inteligencia artificial existentes y mitigar posibles consecuencias negativas, al tiempo que promovería la colaboración entre los principales actores de la industria tecnológica para desarrollar protocolos de seguridad compartidos para el diseño avanzado de IA (Engadget, 2023); (IT Pro, 2023). A la luz de este debate, mantenerse al día con las últimas noticias y desarrollos de la IA es crucial, ya que la revolución de la IA continúa desarrollándose sin pausa. Ética y peligros de la I.A. Aleksander Mądry, un investigador de IA, pide un escrutinio riguroso de las herramientas de IA utilizadas por las corporaciones (MIT News). Matthew Kearney, un doble estudiante de informática y filosofía, aboga por la ética de la IA fomentando el diálogo entre la IA y la filosofía (MIT News). El informe de Info-Tech Research Group revela las principales tendencias de IA para 2023 (Yahoo! Finanzas; PR Newswire). Yuval Harari, el reconocido autor de ‘Sapiens’, advierte que la IA se está apoderando de la «llave maestra de la civilización», enfatizando los riesgos potenciales del mal uso de la IA (Inkl, 2023). Él cree que la IA, si no se controla, podría consolidar el poder en manos de unos pocos, exacerbando las desigualdades sociales y llevando a una vigilancia generalizada. Harari sugiere que el uso ético de la IA debería centrarse en reducir la desigualdad, fortalecer la democracia y desarrollar la cooperación global para abordar cuestiones que trascienden las fronteras nacionales. Noam Chomsky, un destacado lingüista y filósofo, plantea su preocupación por el aumento del plagio de alta tecnología facilitado por las tecnologías avanzadas de IA (The Intel Drop, 2023). Argumenta que la omnipresencia del contenido generado por IA podría socavar la originalidad, la creatividad y el pensamiento crítico. Chomsky pide políticas y regulaciones más sólidas para prevenir el abuso de la IA con fines poco éticos, así como una reevaluación del papel de la IA en la sociedad para priorizar los valores humanos y la innovación genuina. Bill Gates, en una carta abierta, reconoce tanto el potencial emocionante como los aspectos aterradores de la IA (Forbes, 2023). Gates afirma que el desarrollo y la implementación de la IA deben priorizar el bien social y los valores humanos. Destaca la importancia de abordar las preocupaciones éticas, como garantizar que la IA no perpetúe los sesgos, infrinja la privacidad o amplíe la brecha digital. Gates también aboga por la colaboración entre gobiernos, empresas tecnológicas y partes interesadas para crear marcos y regulaciones que guíen el uso responsable y el desarrollo de la IA. Impacto de la IA en la fuerza laboral. ChatGPT de OpenAI ahora permite el desarrollo de complementos para ampliar sus capacidades (Wired). Una nueva investigación de OpenAI y la Universidad de Pensilvania sugiere que la IA alterará las tareas dentro de al menos el 80% de todos los trabajos (Forbes). El CEO de OpenAI, Sam Altman, analiza los peligros potenciales de la IA avanzada (Business Insider). La IA se enfrenta a los profesionales de cuello blanco más directamente que nunca, lo que podría hacerlos más productivos o hacerlos obsoletos (New York Times). IA generativa para popularizar el diseño gráfico. Adobe presenta su asistente de IA generativa creativa beta, Adobe Firefly, diseñado para ayudar a los usuarios con experiencia limitada en diseño gráfico a crear sus propias imágenes (Forbes; Indian Express). Firefly forma parte de una nueva familia de modelos de IA generativa que estarán disponibles para su uso en otros productos de Adobe, como Creative Cloud, Document Cloud, Experience Cloud y Adobe Express (Economic Times). Adobe también lanza Sensei GenAI, un conjunto de servicios de IA para mejorar las capacidades de Adobe Experience Platform para empresas (CMSWire). Adobe se asocia con NVIDIA para desarrollar conjuntamente una nueva generación de modelos avanzados de IA generativa (NVIDIA News). Generador de arte impulsado por IA Midjourney. Midjourney v5, el último modelo de lenguaje que crea imágenes a partir de órdenes de texto, se lanza a los suscriptores pagos, agregando más realismo a las manos humanas generadas (Digital Trends). Además, lanza una revista impresa mensual que crea imágenes realistas basadas en texto generado por el usuario (Yahoo! News). Avances de Google AI. Google lanza «Bard», un chatbot de IA que compite con ChatGPT de OpenAI, y lo abre a más usuarios (AP News; ABC News). Google lanza herramientas basadas en IA para aplicaciones de espacio de trabajo populares, como Chat, Meet, Gmail, Documentos y Presentaciones (Spiceworks). Google amplía el uso de su IA sanitaria para la detección temprana de enfermedades y la respuesta a preguntas médicas (ABC News). Innovaciones de IA de Microsoft. Microsoft presenta herramientas de asistente de IA llamadas Copilots, que utilizan el sistema de lenguaje GPT-4 de OpenAI para ayudar, entre otras, a combatir los ataques cibernéticos (Bloomberg). Copilot también integra herramientas de inteligencia artificial en su suite de software de oficina, incluidos la creación o asistencia inteligente dentro de documentos de Word, Excel y Outlook (ABC News). Microsoft está probando ampliamente un nuevo motor de búsqueda Bing utilizando GPT-4 y actualziando su software Office como parte de su asociación con OpenAI (Seattle Times). Canva presenta nuevas herramientas de IA. Canva presenta nuevas herramientas generativas de IA para mejorar su plataforma, incluyendo Magic Edit y Magic Eraser (Indian Express; SiliconANGLE). Canva se está expandiendo a productos digitales para el lugar de trabajo al agregar herramientas de inteligencia artificial para competir mejor contra Microsoft y Google (Bloomberg). NVIDIA se centra en la IA. NVIDIA cambia su enfoque a la IA, yendo más allá del mercado criptográfico (Business Insider). La mitad de todas las compañías Fortune 100 han instalado supercomputadoras
Desenmascarando al autómata: detectar textos generados por una Inteligencia Artificial
La Inteligencia Artificial, en particular con los grandes modelos de lenguaje o LLM por su sigla en inglés, ha logrado avances significativos en la generación de texto similar al humano. A medida que el texto generado por IA se inserta en nuestro día a día, es esencial desarrollar habilidades y herramientas para identificar dicho contenido. Esta guía ayudará a comprender qué es un LLM (Large Language Model) y cómo funciona, a aprender algunas técnicas de detección manual o herramientas automáticas para detectar texto generado por IA y, finalmente, recomendará algunos cursos clave de alfabetización mediática e informacional para navegar la nueva era de la Inteligencia Artificial. ¿Qué es un gran modelo de lenguaje y cómo funciona? Un gran modelo de lenguaje (LLM, en inglés) es un tipo de inteligencia artificial que puede entender, generar y traducir texto tras aprender de grandes cantidades de contenido escrito, como libros, sitios web, artículos y publicaciones en redes sociales. Una vez entrenados, los LLM pueden realizar eficientemente diversas tareas, como resumir artículos, responder preguntas o incluso crear un nuevo texto que suene como si hubiera sido escrito por un humano. Utilizan un algoritmo de aprendizaje profundo, lo que significa que se basan en una red que integra gran cantidad de funciones matemáticas para imitar la forma en la que nuestros cerebros procesan la información. Los LLM funcionan con base en probabilidades: aprenden a reconocer patrones y relaciones entre contextos, palabras y frases en grandes cantidades de datos. Crean texto seleccionando la siguiente palabra o frase más probable en función de su comprensión del contexto y las palabras que ya han generado antes. Dado que los LLM, como GPT-4, se están volviendo cada vez más sofisticados, es difícil determinar si un texto es generado por IA o escrito por humanos. El texto generado por LLM puede ser más consistente y menos aleatorio que la escritura humana, lo que dificulta su identificación con absoluta certeza. Aunque existen herramientas para detectar texto generado por IA, sus tasas de detección pueden variar significativamente, entre el 26% y el 90% de precisión. Esta incertidumbre resalta la importancia de la alfabetización mediática e informacional para que los humanos aprovechemos responsablemente el potencial del contenido generado por la IA. Consejos para la detección manual de textos de IA El texto generado por IA tiene características únicas que pueden ayudar a distinguirlo del contenido escrito por humanos. Algunos puntos clave son: Herramientas automáticas para detectar texto generado por IA Se han desarrollado múltiples herramientas y algoritmos para detectar texto generado por IA, aunque ninguno ha logrado el 100% de confiabilidad en resultados independientes. Algunas de los más reconocidas son: Claves para el aprendizaje continuo La alfabetización mediática e informacional (Media and Information Literacy o MIL) es crucial para comprender y evaluar el contenido generado por la IA. La MIL ayuda a los usuarios a desarrollar habilidades de pensamiento crítico y fomenta el consumo responsable de contenido digital. Algunas habilidades y cursos MIL claves para formarnos: La capacidad de detectar texto generado por IA se torna vital en la era digital. Al aprender técnicas de detección manual, usar herramientas automáticas y promover la alfabetización mediática e informacional, las personas pueden reconciliarse efectivamente con el contenido generado por la IA. La clave es permanecer vigilante, pensar críticamente y mantenerse informado sobre el panorama en evolución del texto generado por IA y sus implicaciones en nuestra vida cotidiana. Referencias Akhtar, P., Ghouri, A. M., Khan, H. U. R., Haq, M. A., Awan, U., Zahoor, N., Khan, Z., & Ashraf, A. (2022). Detecting fake news and disinformation using artificial intelligence and machine learning to avoid supply chain disruptions. Annals of Operations Research. https://doi.org/10.1007/s10479-022-05015-5 Alimardani, A., & A. Jane, E. (2023, February 19). We pitted ChatGPT against tools for detecting AI-written text, and the results are troubling. The Conversation. Retrieved April 9, 2023, from https://theconversation.com/we-pitted-chatgpt-against-tools-for-detecting-ai-written-text-and-the-results-are-troubling-199774 Bryden, T. (2022, December 2). How Do Large Language Models Work? Speak Ai. Retrieved April 9, 2023, from https://speakai.co/how-do-large-language-models-work/ Decision Engines. (2023, February 27). Understanding Large Language Models: What They Are and How to Use Them. Decision Engines, Inc. Retrieved April 9, 2023, from https://decisionengines.ai/understanding-large-language-models/ Dilmegani, C. (2023, February 16). Large Language Models: Complete Guide in 2023. AIMultiple. Retrieved April 9, 2023, from https://research.aimultiple.com/large-language-models/ Hassan, M. H. (2023, February 18). DetectGPT – Detecting AI Generated Text | Medium. Medium. Retrieved April 9, 2023, from https://medium.com/@TheHaseebHassan/detectgpt-detecting-ai-generated-text-a0284f1d05de Heikkilä, M. (2022, December 19). How to spot AI-generated text. MIT Technology Review. Retrieved April 9, 2023, from https://www.technologyreview.com/2022/12/19/1065596/how-to-spot-ai-generated-text/ Hendrik Kirchner, J., Ahmad, L., Aaronson, S., & Leike, J. (2023, January 31). New AI classifier for indicating AI-written text. OpenAI. Retrieved April 9, 2023, from https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text Mahmood, S. H. (2023, February 25). The 8 Most Accurate AI Text Detectors You Can Try. MUO – Make Use Of. Retrieved April 9, 2023, from https://www.makeuseof.com/accurate-ai-text-detectors/ Muehmel, K. (2023, March 15). What Is a Large Language Model, the Tech Behind ChatGPT? Retrieved April 9, 2023, from https://blog.dataiku.com/large-language-model-chatgpt Rogers, R. (2023, February 8). How to Detect AI-Generated Text, According to Researchers. WIRED. Retrieved April 9, 2023, from https://www.wired.com/story/how-to-spot-generative-ai-text-chatgpt/ Sánchez, S., Rojo, A. F., Martínez, A., & Samaniego, C. M. (2021). Media and information literacy: a measurement instrument for adolescents. Educational Review, 73(4), 487–502. https://doi.org/10.1080/00131911.2019.1646708 Terra, J. (2023, February 21). What is Media and Information Literacy? Simplilearn.com. Retrieved April 9, 2023, from https://www.simplilearn.com/what-is-media-and-information-literacy-article Turnitin. (2023, February 13). Turnitin announces AI writing detector and AI writing resource center for educators. Retrieved April 9, 2023, from https://www.turnitin.com/press/turnitin-announces-ai-writing-detector-and-ai-writing-resource-center-for-educators UNESCO. (2022). Media and information literate citizens: Think critically, click wisely! UNESCO Institute for Information Technologies in Education. Retrieved April 9, 2023, from https://iite.unesco.org/publications/media-and-information-literate-citizens-think-critically-click-wisely/ Wang, B., Rau, P. P., & Yuan, T. (2022). Measuring user competence in using artificial intelligence: validity and reliability of artificial intelligence literacy scale. Behaviour & Information Technology, 1–14. https://doi.org/10.1080/0144929x.2022.2072768 Wiggers, K. (2022, April 28). The emerging types of language models and why they matter. Techcrunch. Retrieved April 9, 2023, from https://techcrunch.com/2022/04/28/the-emerging-types-of-language-models-and-why-they-matter/
Español 
English