Albert Llambrich
La integración de Apple Intelligence en iOS y otros sistemas ha abierto interesantes posibilidades, como los resúmenes automáticos de notificaciones. Sin embargo, esta misma tecnología ha demostrado ser propensa a cometer errores graves, tergiversando información o inventando titulares inexistentes, lo que ha generado una ola de críticas, destacada por medios como la BBC.
Apple Intelligence sigue sin funcionar de manera oficial en Europa, pero parece que debe mejorar mucho antes de su salida a nivel mundial
«Alguien a matado a alguien»
La controversia ha surgido principalmente al generar resúmenes automáticos de noticias en las notificaciones. Si el usuario no accede al artículo completo y se limita a leer el texto generado por la IA, el riesgo de difundir información falsa aumenta considerablemente.
La BBC News ha documentado casos alarmantes en los que Apple Intelligence afirmó erróneamente que:
- Una persona se había suicidado.
- Un atleta había ganado un torneo inexistente.
- Otro deportista se había declarado abiertamente homosexual, sin ser cierto.
Los titulares originales, redactados por periodistas, ya resumían adecuadamente la información. Sin embargo, la «segunda capa» de interpretación añadida por la IA generó confusión innecesaria.
¿Qué propone Apple?
Una solución inicial sería desactivar por defecto la función de resúmenes automáticos en las apps de noticias. Los usuarios que realmente deseen usarla podrían activarla de manera voluntaria (opt-in). Esto limitaría la difusión de errores al mínimo y daría a la inteligencia artificial el tiempo necesario para mejorar.
Además, Apple ya trabaja en una actualización que indicará con mayor claridad cuándo el texto ha sido generado por la IA. Aunque es un paso en la dirección correcta, expertos y usuarios coinciden en que esto no resuelve el problema de fondo.
El camino por recorrer
Apple tiene el potencial para liderar el desarrollo de inteligencia artificial responsable, pero los errores en el manejo de información sensible podrían dañar su reputación si no se solucionan pronto. Seguiremos atentos a las novedades sobre Apple Intelligence y te mantendremos informado en iSenaCode.
Fuente | 9to5mac
