La IA no sabe decir “no sé”

Por Rodrigo La Greca Blardoni
Hace unas semanas escribía en este mismo espacio que la inteligencia artificial estaba al alcance de la mano, que no era cosa de otros lados, ni de los que tienen más medios para utilizarla, sino una herramienta más en el celular de cualquiera. Sigo pensando lo mismo. Pero hoy quiero contar la otra mitad, la que no conviene saltearse: esa misma herramienta, tan útil, también se equivoca con una seguridad que asusta.
Los invito a hacer una prueba simple, le pregunté a la inteligencia artificial (Chatgpt) dónde se cruzan la avenida Barbieri y la avenida Paraguay en la ciudad de Salto. Cualquier salteño sabe que esas dos avenidas no se cruzan nunca. La máquina no dudó: me contestó, muy convencida, que se cruzaban en el Cerro. Ni un “no estoy segura”, ni un “fijate bien”. Una respuesta redonda, dicha con total aplomo, y completamente falsa (seguramente hay un montón de ejemplos más).
Eso es lo que hay que entender de esta herramienta. No es que mienta con mala intención. Es que está hecha para contestar, no para dudar. Cuando no sabe algo, en vez de decir “no sé” —que sería lo honesto— prefiere llenar el hueco con algo que suene bien. Y muchas veces suena tan bien que uno le cree.
Ahora llevemos eso del mapa al mostrador. Si le pregunté por dos calles y me inventó una esquina, ¿qué me puede contestar cuando le pregunte si mi precio está bien (teniendo en cuenta los precios de mercado), si me conviene tal proveedor, o si un dato que voy a usar con un cliente es cierto? La misma seguridad, el mismo aplomo, y a veces el mismo error. La diferencia es que la esquina la puedo verificar caminando; el precio o el dato, si no lo controlo yo, se me puede escapar.
Por eso insisto con algo que dije la vez pasada: la inteligencia artificial no viene a reemplazar el criterio de nadie. El que sabe de su oficio sigue siendo el que manda. La máquina es una ayudante rápida y barata, pero es eso, una ayudante. La última palabra —revisar, dudar, confirmar— tiene que quedar siempre del lado de uno (así sea estudiante, empresario o con el nivel de uso que sea).
Usémosla, sin miedo y todos los días. Pero con la misma desconfianza sana con la que el salteño siempre miró lo que le venían a vender de afuera: probándolo, midiéndolo, y sin creerle todo de entrada. La herramienta es buenísima. El criterio, por suerte, todavía es nuestro.