Necesitamos más código abierto en la carrera por la IA

código abierto ia

Algo que está pasando con las nuevas AI generativas es un doble estándar que están manejando. Estas compañías hablan la innovación que traen con el desarrollo de la IA, pero no devuelven ese conocimiento a la sociedad; y hablan de futuro sin hacer caso a los daños que causan hoy. He leído en un foro un debate en el que se preguntaban si OpenAI no debía quitar la palabra Open de su nombre porque estaba siendo un fraude que implicaba que les queda algo de abiertos.

El CEO de Stability AI, Emad Mostaque, habla de «democratizar la IA». Y todos los que repiten ese discurso no dejan nunca en claro si hablan de democratizar el uso de la IA, el desarrollo de la IA, los beneficios económicos de la IA o la gobernanza de la IA. Lo han estudiado en Oxford.

La semana pasada publiqué un tema que llevaba siguiendo hacía varias semanas: cuál es el rol del código abierto en el boom de la IA. Muchos piensan que estamos ante una tecnología demasiado importante para dejarla en manos de un pequeño grupo de empresas.

[Archive]

Foto de Jan Kroon

Narrativas falsas en la prensa económica

Laffer napkin: narrativas falsas en la prensa económica

Las narrativas falsas también existen en la prensa económica, y alguna, como aquella que explicó Arthur Laffer dibujando en una servilleta en una cena con Dick Cheney, que ilustra este artículo, ha ejercido su influencia durante casi 50 años, y llegó a configurar políticas fiscales de Reagan y Tatcher. Actualmente, la hegemonía del liberalismo no necesita tanto de bulos como de narrativas que ayudan a reforzar argumentos en favor de ciertos grupos de interés.

Capitan Swing ha publicado «Pescar el salmón», un libro de Yago Álvarez Barba en la que analiza las narrativas falsas en la actual prensa salmón (como se le llama a la prensa económica en España por el color con el que antes iban tintadas sus páginas en papel), explicando varias técnicas de manipulación y desinformación tremendamente vigentes. He hablado con el autor y he publicado «Narrativas falsas en la prensa económica: bulos, mentiras y estadísticas».

[Archivo]

El primer contrato de Palantir en España

Peter Thiel speaks on the fourth day of the 2016 RNC

Palantir ha logrado su primer contrato público en España por 16,5 millones: su software Gotham será usado por las Fuerzas Armadas.

No hablamos de cualquier empresa: Palantir es una gran tecnológica muy opaca y trabaja con las agencias de seguridad nacional de EEUU desde sus inicios. Ha sido acusada de violaciones a los derechos humanos

Esta semana hemos publicado varias piezas sobre un tema que ha llevado meses de pedir información utilizando el derecho al acceso a la información y la ley de Transparencia. Contamos cómo ha sido la entrada de Palantir en España, en un momento en el que su estrategia es conseguir entrar en las infraestructuras de los estados europeos, como la NHS en Reino Unido o los servicios policiales en Alemania.

Más:

El Ministerio de Defensa adjudica a Palantir un contrato por 16,5 millones de inteligencia militar [Archivo]
Qué es Palantir y quiénes son Peter Thiel y Alex Karp [Archivo]
Cómo es la excepción en la adjudicación que usó Defensa en España para dar el contrato a Palantir: el procedimiento negociado sin publicidad [Archivo]
Varias leyes y mucho secreto, los argumentos de Defensa sobre el contrato con Palantir y la ley de secretos oficiales [Archivo]

Fantasías escapistas de los multimillonarios ante el apocalipsis

Un director general de una agencia de bolsa explicó en una reunión en la que estaba Douglas Rushkoff que casi había terminado de construir su propio sistema de búnkeres subterráneos. Casi enseguida preguntó: “¿Cómo puedo mantener mi autoridad sobre mi fuerza de seguridad tras el evento?”. El “evento” es un eufemismo con el que estos multimillonarios llaman al colapso medioambiental, la agitación social, la explosión nuclear, la tormenta solar, al virus imparable o al sabotaje informático malicioso que vendrá a llevar todo al carajo. El problema es que creen que la única vía para huir de esto es el dinero y la tecnología. Y para unos pocos.

Douglas Rushkoff contó esta anécdota en su último libro, publicado en español por Capitán Swing, y se remonta a los primeros tiempos de internet para explicar cómo la relación de la tecnología con el capital cambió a partir del desplome de las puntocom, hasta llegar a una búsqueda ciega del crecimiento. El resultado es que la innovación tecnológica ya no se entiende tanto como una forma de ofrecer productos y experiencias mejores y más satisfactorias a la gente, sino más bien como otro medio de redoblar la dominación y la extracción. 

Escribí sobre Rushkoff y su libro en «Douglas Rushkoff: el autor que escribe sobre el plan B de los multimillonarios para el apocalipsis y al que mencionó Yolanda Díaz» para Newtral.

[Archivo]

El deepfake como arma masiva contra las mujeres

Vista aérea de Almendralejo | Kallerna

Esta semana una serie de deepfakes, desnudos arficiales de menores no consentidos, han sido noticia desde Almendralejo, una localidad de 30.000 habitantes entre los que se conocen todos. Pero para mí quienes han sido la noticia han sido las madres, que reaccionaron rápidamente de la mano de una de ellas, ginecóloga, que no dudó en usar sus redes sociales para contar esto cuando su hija se lo contó. Esto hizo que un grupo de madres se organizase por Whatsapp para denunciar, y luego surgieran otras denuncias similares también en Alcalá de Henares (Madrid). Muchas de ellas, como me dijo Miriam Al Adib, la ginecóloga, oían la palabra deepfakes y se encontraban con la IA así de la peor forma.

La mayoría de medios en un primer momento enfocaron la noticia desde lo tecnológico, algún tuitero wanna-OSINT decía cuál era la herramienta, y otros daban detalles que para mí no son lo fundamental del caso. Muchos se preguntaban por el Código Penal, y pedían leyes específicas «para la IA», confundiendo varias cosas. Hablé con Borja Adsuara, un abogado que sostiene que esto no es necesario, así como no hace falta una ley que tipifique la ciberestafa para castigar una estafa.

Y recordé el estudio más amplio y más citado sobre los deepfakes, que fue llevado a cabo en 2019 por Deeptrace, a pedido de Sensity AI. Desveló que el 96% de los vídeos deepfakes eran pornográficos y no consentidos. “La pornografía con IA daña exclusivamente a mujeres” dice ese informe. Lo que es necesario es que nos demos cuenta de que la IA es una arma masiva de última generación al servicio de la violencia machista. Después de avisar a las chicas que no tienen que avergonzarse, y a los padres que deben denunciar, el mensaje más importante según Al Adib, debe ir hacia los chicos: «No me vale que estés en un Whatsapp grupal y te quedes callado. Todo eso también daña a las víctimas». Lo mismo piensa Adsuara, que me explicó los tipos legales que corresponden. Todo, enlaces, estudios y lo que me contaron, en este reportaje para Newtral.

Foto: Kallerna | Wikimedia CC BY-SA 4.0

[Archivo]

IA y cambio climático: la dificultad de las cifras

IA y cambio climático

¿Cuánto consume la IA? ¿Qué huella ecológica tiene? ¿Cuál es su impacto energético?
Resolver estas preguntas es complicado por varias cuestiones, como que en primer lugar no hay información por parte de las empresas que producen algoritmos, a pesar de que estén todo el tiempo comunicando sus narrativas de éxito.

Otra de las cuestiones es que tendemos a tratar la IA como una sola tecnología, cuando son muchas herramientas, procesos, materiales, industrias, servidores, localizaciones. Los estudios publicados por las tecnológicas se dejan fuera las primeras partes del proceso (extracción de materiales y datos, entrenamientos), y los últimos datos de investigadores independientes que tenemos son de antes de la pandemia.

Una de las promesas de la IA es que viene a solucionarnos los grandes problemas del futuro, entre ellos el cambio climático. Pero ¿cuánto consume hoy? ¿y si cuando llegamos a la AGI ya no nos queda planeta? La IA promete ayudar contra el cambio climático en un futuro, pero su desarrollo actual puede estar haciendo un daño al planeta que su remedio no pueda arreglar.

En este reportaje en Newtral (El impacto climático de la IA y su huella ecológica) hablo con expertos y ponemos cifras a este tema, que llevo siguiendo hace mucho tiempo.

[Archivo]

Foto: Marek Piwnicki

La sonrisa de Maria Ressa

Maria Ressa rappler sonrisa absuelta

“Nunca hemos hecho otra cosa que nuestro trabajo, y seguimos haciéndolo», ha dicho la Nobel de la Paz, periodista y responsable del medio de noticias Rappler, al salir del tribunal que la ha absuelto del último delito de evasión fiscal. La noticia significa una victoria para la libertad de prensa en el país, tras 10 años y 4 meses de juicio en un caso presentado bajo el gobierno del expresidente Rodrigo Duterte.

Durante estos años, el equipo de periodistas de Rappler ha investigado las ejecuciones extrajudiciales contra sospechosos de traficar o consumir drogas, y ha documentado la difusión de desinformación gubernamental en Facebook, informando sobre la corrupción y las malas prácticas de los principales asesores del gobierno de Duterte. La historia de una premio Nobel de la Paz que dirige Rappler, un medio que hace fact-checking, es la de una persecución judicial (en Newtral he contado en qué se basan y por qué piden el cierre de Rappler) que intenta cerrar un medio crítico con el gobierno con una serie de demandas, que poco a poco la Justicia filipina va desestimando.

Ressa es una persona que ha sostenido siempre la esperanza en el trabajo periodístico bien hecho. Cada vez que tenemos noticias de una victoria suya o de su equipo, da gusto buscar la foto de su sonrisa para la pieza. Esta ha sido la de esta semana.

Foto: Lev Radin

[Archivo]