Ayer vi el documental El Documental de la IA: Del apocalipsis al optimismo . Terminé con más preguntas que respuestas, al igual que su director, Daniel Roher.
Me quedé pensando en algo que conecta lo que vi con mi propia experiencia: quizás el desafío no está solamente en lo que la IA será capaz de hacer, sino en cuánto poder (información) estamos dispuestos a entregarle para aprovecharla.
Me acordé de algo que me decían cuando era chica: “No fumes, porque después viene la marihuana y luego las drogas más fuertes”.
A mis 15 años pensaba que no tenía sentido. Con los años entendí que esa progresión no es inevitable, pero que podemos acostumbrarnos a ciertas experiencias, normalizar sus riesgos y querer ir más allá.
Hoy siento que estoy viviendo algo parecido con la IA. Pero con esteroides.
Partí usando ChatGPT como un chat. Después descubrí que, mientras más contexto le entregaba, más útiles podían ser sus respuestas. Comencé a compartir mis proyectos, decisiones e información personal. Llegó la memoria y ya no tenía que explicarle todo desde cero. Fantástico.
Luego llegó mi fiel amigo y compañero, mi agente de IA que funciona por Telegram, desarrollado por un colega amigo. También comencé a integrar Claude y conectar herramientas para que la IA dejara de decirme cómo hacer las cosas y comenzara a hacerlas por mí.
El problema es que no sé exactamente cómo funciona mi agente, dónde almacena mis datos, quién puede acceder a ellos ni qué ocurre con la información que comparto. Y si lo supiera, sinceramente, no sé cuánto cambiaría mi decisión.
Porque quiero usarlo. Porque funciona. Porque veo su potencial.
La cesión de control puede producirse a través de pequeñas decisiones que parecen convenientes individualmente, pero cuyo efecto acumulado es mucho mayor.
Vamos subiendo una escalera: conversamos, entregamos contexto, compartimos documentos, conectamos cuentas, autorizamos acciones y finalmente delegamos procesos completos. Cada paso parece lógico. El siguiente, incluso necesario.
El verdadero conflicto
Cuando hablamos de adoptar IA responsablemente, la recomendación parece clara: acceso mínimo, propósito definido, permisos temporales y supervisión humana.
Estoy de acuerdo. Pero “otra cosa es con guitarra”. Si tengo que explicar el contexto, seleccionar documentos y autorizar cada acción, pierdo parte del beneficio. En cambio, si conecto mis herramientas, el agente puede hacer mucho más por mí.
Ahí nace una tensión estructural: queremos que la IA haga cada vez más por nosotros, pero también necesitamos limitar sus accesos y conservar el control.
El beneficio es inmediato: puedo medir las diez horas que me ahorré. Lo que no puedo medir tan fácilmente son los riesgos de haber conectado cinco servicios y compartido información que quizás no debería.
Y no creo que estemos dimensionando suficientemente lo que esto significa.
Cuando la supervisión humana deja de ser suficiente
Imaginemos que mi agente comienza a gestionar correos, organizar reuniones, analizar documentos y ejecutar cientos de tareas.
En teoría, sigo teniendo el control. Puedo revisar sus acciones, cambiar permisos o detenerlo.
Pero si reviso todo, pierdo el beneficio de automatizar. Si no reviso, acepto que actúe sin saber exactamente qué está haciendo.
La supervisión humana puede terminar convirtiéndose en algo simbólico si el volumen y la velocidad de las operaciones exceden nuestra capacidad de revisión.
Y un botón para detenerlo no deshace un correo enviado ni recupera información que ya fue compartida.
Tener la posibilidad técnica de intervenir no significa necesariamente tener control efectivo.
Estamos desarrollando sistemas cada vez más autónomos, pero no creo que nuestra capacidad individual y colectiva para gobernarlos pueda avanzar al mismo ritmo si seguimos dependiendo de la revisión humana de cada operación.
La responsabilidad individual es necesaria, pero insuficiente
Cuando comencé a preocuparme por mis datos, pensé que lo responsable era investigar: revisar políticas de privacidad, permisos, almacenamiento y condiciones de uso.
Pero tendría que hacerlo con ChatGPT, Claude, mi agente y más de diez servicios diferentes, todos cambiando constantemente.
Y hay algo todavía más importante: no creo que el problema se resuelva simplemente informándonos mejor.
Sé que probablemente estoy entregando más información de la que debería, pero no encuentro una forma práctica de aprovechar todo el potencial de la IA sin hacerlo.
Si quiero conectar mi Gmail a un agente, tendría que revisar los correos desde que abrí mi cuenta y decidir cuáles puede leer y cuáles no. Clasificar información personal, laboral, confidencial y de terceros.
Me tomaría días y seguramente cometería errores. Ahora, me imagino una empresa con millones de datos.
Es justamente una de las grandes ventajas de la IA: procesar enormes cantidades de información que nosotros no podemos manejar. Pero para que lo haga, tenemos que entregársela.
Ahí está la contradicción. Queremos proteger nuestros datos, pero no tenemos la capacidad de revisar y clasificar manualmente toda la información que necesitamos compartir para obtener esos beneficios.
Al final, la comodidad puede ganar por cansancio, falta de tiempo o simplemente porque no encontramos una alternativa práctica.
Conocer los riesgos es importante, pero no significa que tengamos la capacidad real de evitarlos.
No podemos construir una sociedad que dependa de la IA y exigirle a cada individuo que sea experto en ciberseguridad para participar en ella.
Quizás estamos midiendo mal el éxito de la adopción
Esta reflexión me toca especialmente porque estoy construyendo The AI Adoption Project, un proyecto que busca impulsar la adopción de inteligencia artificial desde una perspectiva humana.
Gran parte de la conversación se concentra en conseguir que más personas utilicen IA, superen sus barreras y descubran sus beneficios. Y sigo creyendo que es necesario.
Pero hoy veo una segunda dimensión que no podemos dejar fuera: ¿Cómo logramos que las personas adopten capacidades de inteligencia artificial sin perder su capacidad de comprender, decidir y controlar lo que delegan?
Son dos objetivos diferentes.
El primero se mide en usuarios activos, tareas automatizadas y horas ahorradas. El segundo debería considerar la comprensión de los permisos, la posibilidad de revertir acciones, la capacidad de intervención, la exposición de datos y la dependencia operacional.
Una empresa podría aumentar considerablemente su productividad y, simultáneamente, acumular riesgos que todavía no sabe gestionar.
Para mí, una adopción exitosa tiene que considerar ambas dimensiones. Porque hay una diferencia entre superar el miedo a una tecnología y confiar en ella con conocimiento de causa. Y conocer los riesgos tampoco basta si no tenemos herramientas para controlarlos.
El desafío no puede quedar solamente en nuestras manos
No quiero dejar de usar IA. Todo lo contrario. Quiero seguir explorándola, construir agentes, automatizar procesos y aprovechar su potencial.
Pero tampoco quiero tener que elegir entre hacerlo y proteger mi información.
Podemos intentar ser responsables, revisar permisos y limitar accesos, pero la cantidad de información, la complejidad de los sistemas y la velocidad de la automatización pueden superar nuestra capacidad individual.
El verdadero desafío está en qué están haciendo los creadores de los modelos y agentes que utilizamos para garantizar nuestra protección, entendiendo que no somos expertos en seguridad.
Necesitamos que la opción segura sea también la más fácil: permisos comprensibles, acceso limitado a información sensible, registro de las acciones, controles adecuados y claridad sobre quién responde cuando algo sale mal.
Hoy la adopción ya está avanzando más rápido que nuestra capacidad para gobernarla. No podemos resolver esa brecha únicamente con más educación y recomendaciones de seguridad.
Si la IA es capaz de gestionar una complejidad que supera nuestras capacidades humanas, sus creadores también tienen que hacerse cargo de que podamos utilizarla de forma segura, sin exigirnos comprender y controlar por nuestra cuenta toda esa complejidad.
Para mí, ese es el verdadero desafío de una adopción responsable.