María González de Benito es una joven madrileña de 33 años. Se dedica al diseño y, como muchos en ese gremio, es autónoma. Como a tantos trabajadores por cuenta propia, se le atraganta toda la burocracia y papeleo que tiene que hacer regularmente para cumplir con sus obligaciones fiscales. “No es sencillo. Yo me dedico al diseño, no a la contabilidad y muchas veces te encuentras con cosas que no entiendes o que no están explicadas de forma sencilla”, comenta a este periódico.
“Me he llegado a encontrar con la situación de un requerimiento sobre un pago que yo pensaba que ya había hecho y así lo comuniqué. Poco después, me llegó el mismo comunicado y al llamar por teléfono, me encontré que tampoco tenían muy claro qué tenía que hacer y me dijeron que pidiese cita”, explica González como ejemplo del tiempo que puede llegar a perder una autónoma si decide ocuparse por sí misma de este tipo de gestiones. Recurrir a un asesor es lo que suelen hacer muchos de estos profesionales, pero hay muchos que no pueden por el simple hecho de cuadrar las cuentas. “También pueden cometer errorer y al final el que tiene la responsabilidad final eres tú”, añade.
Hace un par de semanas, esta diseñadora encontró una solución. Recurrir a la inteligencia artificial. Concretamente, a ChatGPT, el archiconocido chatbot de OpenAI. “La idea surgió hablando con una clienta, que también es autónoma y tiene estos mismos problemas. Ambas estamos experimentando con estas herramientas”, recuerda.
No se limitó a preguntarle a la herramienta, sino que la programó con este fin específico, a través de una de las opciones que ofrece esta plataforma a los usuarios de pago: los GPT personalizables. “Es una opción que te permite personalizarlo, decirle qué fuentes de información debe utilizar, cómo se debe comportar, sugerir preguntas iniciales”, comenta González, que detalla que indicó al sistema que debía nutrirse de la información oficial que la Agencia Tributaria comparte en su página web. “La idea era hacerlo mucho sencillo, que se le pueda preguntar de forma natural y no tener que andar buscando la explicación, que muchas veces está repartida entre diferentes apartados”, afirma.
Compré una cámara china en AliExpress. Tardé 20 minutos en asustarme con lo que encontré M. McloughlinUn madrileño experto en ciberseguridad investigó el dispositivo que había adquirido en la plataforma y no tardó en encontrar un puñado de fallos. Es el resumen perfecto de la doble cara la tecnología 'low cost' que se vende en internet
Empezó a hacer pruebas y vio que funcionaba correctamente. Decidió compartirlo, además de con su clienta y algunos contactos, en un post de LinkedIn. “La publicación funcionó muchísimo. Ha tenido más de 200.000 impresiones”, recuerda. Aquello fue la hormona del crecimiento para este bot, que esta diseñadora creó sin ningún tipo de ánimo de lucro y simplemente como solución para algo que se le complicaba: en dos semanas, la herramienta sumó más de 10.000 consultas.
Una llamada de parte de la Agencia Tributaria
Esto podría haber quedado como el enésimo caso de una persona que encuentra una funcionalidad diferente a ChatGPT hasta que Hacienda ‘llamó’ a su puerta hace un par de días. “A principios de esta semana, recibí una llamada en nombre de la Agencia Tributaria”, cuenta esta joven. En realidad, al otro lado de la línea estaba un equipo de Telefónica Cibersecurity, uno de los proveedores que utiliza el organismo público para incidentes de seguridad y suplantación de identidad.
“Yo al principio me sorprendí mucho e incluso llegué a pensar que era la típica estafa telefónica”, comenta. “Me explicaron que trabajaban para la Agencia Tributaria y que tenía que retirarlo”. Les pidió que la comunicación fuera por escrito y poco después encontró un correo en su buzón titulado “Petición de retirada de un contenido de un bot en ChatGPT”. En el texto se le explicaba los tres puntos que tenía que realizar: no utilizar el “icono/logo de la Agencia Tributaria”, “que se eliminen las referencias a la Agencia Tributaria” y “que las respuestas que pueda dar el bot no correspondan con los criterios de la Agencia Tributaria”.
Captura del bot creado como asistente virtual de Hacienda.Poco después, la protagonista de esta historia se encontró que la herramienta había sido retirada de la tienda de GPT de ChatGPT, aunque sigue accesible a través de la URL. González detalla que, aunque se indicaba que era una herramienta no oficial y creada por Gobe Soluciones (su empresa), ha hecho cambios en los logos y la presentación, pero estos no se pueden reflejar todavía hasta que OpenAI termine el proceso de revisión tras suspender el bot y quitarlo de su tienda.
Lo que le genera más desconcierto es la última petición, la de que las respuestas que pueda dar el bot no pueden coincidir con los criterios de la Agencia Tributaria. “¿De qué serviría entonces la herramienta?”, se pregunta en conversación con este periódico. También compartió el problema en otro post en redes sociales, donde además de mensajes de apoyo, le han llegado muchos mensajes de abogados ofreciéndose a estudiar el caso. Incluso, hay muchos usuarios que están creando una especie de efecto Streisand al compartir el prompt (las instrucciones) para generar herramientas similares.
Consultados sobre esta cuestión, desde el organismo confirman que tienen contratado un servicio de Telefónica de vigilancia en el ámbito digital. Matizan que en ningún momento se le ha solicitado “desactivarlo”. “En un caso como este, donde se suplanta la identidad, el operador les dice tres cuestiones: que no puede utilizar nuestro logo, que tiene que indicar que no es un producto de la Agencia y que tiene que indicar que puede cometer errores”, apuntan fuentes oficiales, que insisten en que eso es exclusivamente lo que piden y que otros añadidos son cosa de la comunicación que haya hecho el proveedor.
El problema no es la información
“El problema aquí no es tanto que no se pueda hacer un asistente de este tipo, sino que lo que no se puede es dar la apariencia de que esas respuestas vengan de la Agencia Tributaria”, explica Borja Adsuara, abogado especialista en nuevas tecnologías y ex director de Red.es.
“Eso puede llevar a dar una imagen de falsa seguridad e incluso su creador, a pesar de las buenas intenciones, podría llegar a meterse en un problema y tener responsabilidad si alguien, guiado por el bot, comete una irregularidad”, añade este experto, que puntualiza la necesidad de que la herramienta esté lo suficientemente testada o, en su defecto, incluya disclaimers sobre los posibles errores o alucinaciones que puedan incluir las respuestas que genere la herramienta. “Salvando las distancias, hasta el BOE incluye estos avisos, explicando que tiene carácter informativo y no normativo”.
Foto: Reuters/Dado Ruvic.Sobre el uso del contenido de la Agencia Tributaria para crear estas herramientas, Adsuara dice que es perfectamente legal. “La información es pública, las normas no tienen derechos de autor”, comenta. “Otra cosa muy diferente es si el contenido tiene copyright”, apunta en alusión a la batalla judicial que medios como el New York Times mantienen con OpenAI por haber utilizado miles de artículos para entrenar sus modelos de lenguaje.
Esto vuelve a poner el acento en el uso de inteligencia artificial en organismos públicos. La Agencia Tributaria ya lo hace desde hace un tiempo, tal y como explicó este miércoles Georgina de la Lastra, jefa de la Unidad Central de Análisis y Difusión Externa (UCADA) del Ministerio de Hacienda y Función Pública, en el foro La nueva realidad tras la IA organizado por El Confidencial. “Utilizamos esta tecnología, por ejemplo, a la hora de hacer la declaración de la renta para detectar posibles errores al modificar los borradores que se le da al contribuyente”, apuntó. Eso les permite que recursos que se dedicarían a hacer esas correcciones y comprobaciones se puedan dedicar a otros menesteres, como la lucha contra el fraude. Sin embargo, De la Lastra resaltó la importancia de la privacidad de los datos fiscales de los ciudadanos y por eso se ven obligados a soluciones propias y no pueden recurrir a plataformas como ChatGPT.
elconfidencial.com