Sermas GPT: Un ChatGPT para detectar enfermedades raras en Madrid

sermas gpt madrid enfermedades raras

Hace 6 meses la Comunidad de Madrid y Microsoft anunciaron un acuerdo para que los médicos de atención primaria de 425 centros utilicen una herramienta con IA, un ChatGPT, para detectar enfermedades raras, llamada Sermas DPT. La noticia me llamó la atención por un artículo donde Manuel Ángel Méndez hablaba sobre todo del malestar de los médicos, que se enteraban por la prensa de esto, en contraste con otras publicaciones que se limitaban a repetir frases de la nota de prensa del gobierno y Microsoft.

Empecé a preguntar hace meses sobre Sermas GPT, y encontré varias cosas:

Esta herramienta se integró en el sistema informático de salud casi inmediatamente pero hoy aún hoy 6 meses despúes no ha pasado la validación de un comité médico. Los expertos han encontrado fallos: arroja resultados sexistas y racistas. Los médicos sólo han recibido un instructivo para saber cómo meter los datos.

Tampoco es realmente una app, sino un conjunto de APIs conectadas a GPT-4 en los servidores Azure de Microsoft. Es decir, es como hablar con ChatGPT para preguntarle por el diagnóstico de enfermedades raras tras darle unos síntomas. Microsoft mismo ha asegurado en un estudio que ChatGPT no ha pasado por un entrenamiento médico específico, la información que tiene es la que ha recopilado de internet.

No hay un código abierto, a pesar que desde la administración nos han dicho que así es, y faltan respuestas a muchas preguntas. Hablé con la administración, con la empresa responsable del software y con los médicos para pedirlas. Este es el primer artículo que escribí sobre Sermas GPT: Sermas GPT, la IA de la Comunidad de Madrid para enfermedades raras, aún no ha pasado la validación de un comité médico.

[Archivo]

Fantasías escapistas de los multimillonarios ante el apocalipsis

Un director general de una agencia de bolsa explicó en una reunión en la que estaba Douglas Rushkoff que casi había terminado de construir su propio sistema de búnkeres subterráneos. Casi enseguida preguntó: “¿Cómo puedo mantener mi autoridad sobre mi fuerza de seguridad tras el evento?”. El “evento” es un eufemismo con el que estos multimillonarios llaman al colapso medioambiental, la agitación social, la explosión nuclear, la tormenta solar, al virus imparable o al sabotaje informático malicioso que vendrá a llevar todo al carajo. El problema es que creen que la única vía para huir de esto es el dinero y la tecnología. Y para unos pocos.

Douglas Rushkoff contó esta anécdota en su último libro, publicado en español por Capitán Swing, y se remonta a los primeros tiempos de internet para explicar cómo la relación de la tecnología con el capital cambió a partir del desplome de las puntocom, hasta llegar a una búsqueda ciega del crecimiento. El resultado es que la innovación tecnológica ya no se entiende tanto como una forma de ofrecer productos y experiencias mejores y más satisfactorias a la gente, sino más bien como otro medio de redoblar la dominación y la extracción. 

Escribí sobre Rushkoff y su libro en «Douglas Rushkoff: el autor que escribe sobre el plan B de los multimillonarios para el apocalipsis y al que mencionó Yolanda Díaz» para Newtral.

[Archivo]

Escaneo masivo con la justificación del abuso infantil

Escaneo masivo y vigilancia | Burst

La Comisión Europea ha presentado una propuesta que obligará a las plataformas al escaneo masivo de todos los mensajes interpersonales en internet. La razón es una a la que nadie puede oponerse: el abuso infantil. ¿Es necesario y proporcionado? ¿Y sobre todo, útil?

Decenas de organizaciones de la sociedad civil y expertos están preocupadas, entre ellas la EFF y EDRi. Algunos lo consideran el fin del cifrado en la UE y el mayor mecanismo de vigilancia colectiva establecido fuera de China.

La Agencia de Protección de Datos alemana ya ha dicho que la propuesta es incompatible con la Carta de Derechos Fundamentales. Este es su comisario:

Traducción: El «control de chat» planificado por la Comisión desde el punto de vista de la protección de datos: un hilo después de un primer examen: el borrador de la Comisión no es compatible con nuestros valores europeos y choca con la ley de protección de datos aplicable.

El hashing tiene varios problemas. Por un lado, los falsos positivos. La CE dice que son pocos, pero tanto PhotoDNA como el de Facebook han mostrado porcentajes altos de errores, con impacto en inocentes.

Por otro lado está el problema de la ciberseguridad: los atacantes podrían, por ejemplo, inyectar imágenes o documentos marcados como abuso infantil en los dispositivos de las personas a las que quieren desacreditar

Y luego está la cuestión del cifrado. No existe técnicamente la posibilidad de escanear algo que está cifrado. El escaneo del lado del cliente es un mensaje a los usuarios: aunque cifres, revisaremos todo. Lo que es básicamente una puerta trasera, una backdoor en relación al cifrado.

¿Te acuerdas de Chatcontrol? Ya existía una excepción a la privacidad de las comunicaciones privadas en tierras europeas. Una resolución de la UE permite actualmente a las compañías tecnológicas escanear comunicaciones electrónicas privadas de los usuarios, en busca de contenidos pedófilos.

Facebook, Google, y otras plataformas ya realizan voluntariamente este escaneo y reportan los resultados a las autoridades. Chatcontrol tiene una fecha límite: el 31/12/2022. La Comisión parece tener prisa para cerrar una cobertura legal para las plataformas

Otra directiva, la de la conservación de datos en relación con prestación de servicios electrónicos, ya intentó poner por delante la seguridad sobre la intimidad de las personas. Terminó siendo anulada por el TJUE por ser contraria a los derechos fundamentales de la UE. Habrá que seguir atentos.

El reportaje completo está en Newtral: La Comisión Europea propone obligar a las plataformas al escaneo masivo de mensajes privados en busca de abuso infantil

[Archivo]

La confianza es un puente sin terminar en Kiev

El puente de la foto está sobre el río Dnieper, en Kiev. Empezó a construirse en 1993 y 25 años después sigue sin terminarse. Muchos lo ven como un símbolo de la corrupción política de Ucrania. En este país, justo después de su revolución en 2014, sociedad civil y empresas se unieron para desarrollar un sistema de transparencia en torno al dinero que gasta el gobierno en contratos y compras. 

Si el dinero que gasta nuestro gobierno en contrataciones públicas es de todos, todas las cuentas deberían ser transparentes para los ciudadanos. Deberíamos saber exactamente no sólo quién ganó una licitación, también qué empresas se presentaron, qué oferta se eligió finalmente y cuánto hemos ahorrado. Exactamente esto ha logrado hacer Ucrania, un país que tiene uno de los índices más altos de percepción de corrupción por parte de sus ciudadanos. Lo cuento aquí:  Cómo Ucrania logró poner en marcha su sistema de transparencia en contratos públicos.

 

Cómo se vestirá la gente en 1950, según 1914

Otho Cushing

Otho Cushing es el ilustrador de esta portada retrofuturista, publicada por LIFE en 1914. Cushing fue un ilustrador popular que dibujó para LIFE durante muchos años, aunque poco se sabe de él. El estilo y la temática gay de sus trazos han dado cabida a la idea de que la familia o la sociedad de la época vieron algo que ocultar y pocos datos se tienen de su vida, aunque se puede ver su obra en varias ilustraciones y acuarelas. Vía: What people will dress like in 1950 as imagined on the cover of “Life”, 1914 | Matthew’s Island of Misfit Toys

Kowloon

Kowloon

De vez en cuando me encuentro en internet con la terrible ciudad amurallada de Kowloon, aquél fenómeno que desaparecido aún fascina, y al que podemos reconocer en películas, escenarios de misiones de videojuegos y postales ciberpunks.

«La ciudad de la oscuridad», «La ciudad de la anarquía», «La ciudad de la imaginación»: fue el lugar más densamente poblado del mundo y recibió estos apodos por sus características, antes de ser demolido finalmente en 1994. Con 33.000 habitantes (que según el Washington Post Foreign Service llegaron a ser 50.000) viviendo en sus 2,6 hectáreas, la ciudad amurallada de Kowloon era el barrio de una ciudad de Hong Kong con el mismo nombre, que quedó abandonado del control administrativo por los gobiernos británico y chino. Su brutal densidad de población era de 1.255.000 habitantes por kilómetro cuadrado.

Dentro de sus muros invisibles (que fueron derribados pero continuaron existiendo políticamente) y cuando no hubo más espacio en horizontal, los ciudadanos chinos que quedaron allí apilaron viviendas minúsculas en cualquier sitio donde encontraran hueco, creando edificios de hasta 14 pisos. No podían hacer más porque los aviones que aterrizaban en el aeropuerto de Hong Kong pasaban casi rozando las azoteas. La luz del sol no llegaba a sus calles cubiertas por una maraña de cables y tuberías, que tenían que ser recorridas con paraguas ya que siempre estaba goteando en ellas. Como muchas ciudades asiáticas que crecen en vertical, podía ser recorrida a través de pasajes y azoteas sin prácticamente bajar al nivel del suelo. Los vecinos vivían en aquél mundo aislado sin leyes ni gobierno, pero pacíficamente y en comunidad. Había numerosas organizaciones benéficas y acciones vecinales.

En la ciudad amurallada de Kowloon ejercían su actividad muchos oficios y profesiones que no habían sido autorizadas por el gobierno de Hong Kong: destacaban dentistas sin título, carniceros o vendedores de comida que no pasaba ningún control sanitario, burdeles y vendedores de drogas. Al no haber autoridad proliferaron las mafias. Durante más de 20 años, la policía no se aventuraba a entrar, y se recomendaba a los turistas que no se acercaran al lugar a riesgo de no salir de allí.

Greg Girard, un fotógrafo canadiense y Ian Lamboth, su colaborador, pasaron 5 años tomando fotos en aquella ciudad, y su trabajo puede verse en el Daily Mail. Fueron entrevistados por el Wall Street Journal para un documental corto que puede verse online:

En el museo Paul Getty, en Los Ángeles, hay una foto enmudecedora que tomó Ryuji Miyamoto. Es la que ilustra este post. Igual de impresionante es el mapa de corte transversal que hizo un equipo japonés antes de su demolición. Adolfo Arranz, un infografista español, hizo hace poco una ilustración para el South China Morning Post. Encontré también un podcast (en inglés) de 99% Invisible sobre esta ciudad. Como si mirando y remirando sus fotos y mapas y escuchando a quienes estuvieron allí podamos creernos que Kowloon fue posible y que los escenarios distópicos no son tan lejanos.