En una conversación reciente destacada por Storyboard18, el CEO de Perplexity, Aravind Srinivas, trazó una línea simple: la IA actual puede resolver problemas bien definidos a escala, pero no elige los problemas. Esa elección—lo que realmente importa—sigue siendo un acto humano arraigado en la curiosidad y los valores. Para las organizaciones que planifican programas de IA, esta distinción es más que filosofía; es un modelo operativo.

La afirmación

• La IA es un optimizador poderoso: dado un objetivo y restricciones definidos, redacta, resume, clasifica, extrae y razona, a menudo más rápido que los humanos.

• Los humanos establecen el objetivo: decidir qué preguntar, por qué es importante y qué compensaciones son aceptables requiere contexto, ética y consciencia de las partes interesadas.

• La curiosidad es un foso: el hábito exclusivamente humano de formular preguntas mejores y más audaces impulsa nuevos productos y políticas, y permanece fuera de las capacidades actuales de la IA.

Por qué esto es importante para los líderes

La mayoría de los programas de IA estancados fallan no en la precisión del modelo, sino en el planteamiento del problema. Los equipos entregan características que optimizan la métrica incorrecta o ignoran las realidades regulatorias y del cliente. Trate el diseño de preguntas como una capacidad de primera clase, no como un lujo.

Implicaciones estratégicas (de la idea al impacto)

1. Construir una línea de preguntas

   • Realice “auditorías de preguntas” trimestrales por función. Capture preguntas sin respuesta de clientes, puntos críticos de cumplimiento y cuellos de botella en la toma de decisiones.

   • Priorice por impacto × viabilidad × riesgo. Convierta las principales preguntas en tareas respondibles por máquina.

2. Diseñar un embudo con humano en el circuito

   • Borrador → Revisión → Verificación → Publicación → Aprendizaje. Añada etapas donde los expertos en el dominio puedan vetar o editar resultados.

   • Registre mensajes, fuentes y decisiones de revisión para auditoría.

3. Instrumentar las métricas adecuadas

   • Métricas de descubrimiento: preguntas capturadas, preguntas validadas.

   • Métricas de calidad: cobertura de citas, tasa de errores fácticos, tasa de anulaciones por parte de los revisores.

   • Métricas de resultados: tiempo ahorrado hasta la decisión, tasa de resolución de clientes, excepciones de cumplimiento evitadas.

4. Tratar las fuentes como características

   • Prefiera modos de respuesta con citaciones. Cuando importe una respuesta (legal, seguridad, finanzas), requiera anclaje o recuperación de fuentes sobre su conocimiento controlado.

5. Domine sus mensajes y patrones

   • Construya una biblioteca compartida de mensajes con versiones y ejemplos por flujo de trabajo (soporte, finanzas, legal, ingeniería).

   • Empareje cada mensaje con una rúbrica de revisión y modos de fallo conocidos.

El ángulo de IA en el dispositivo

Srinivas también señala un cambio: a medida que los modelos se vuelven más eficientes, la inferencia en dispositivo o en el borde puede manejar una mayor cantidad de tareas, reduciendo la dependencia de mega centros de datos. Para los compradores, eso sugiere:

• Reducciones en latencia y privacidad para flujos de trabajo móviles o sensibles.

• Arquitecturas híbridas donde las tareas de bajo riesgo se ejecutan localmente y las tareas de alta importancia llaman a puntos finales en la nube seguros con registros y controles de políticas.

• Actualizaciones de adquisiciones para evaluar las capacidades del dispositivo (NPUs, memoria) y gestionar la implementación de modelos a través de flotas.

Gobernanza: mantenga a los humanos a cargo

• DPIA/Privacidad: documente la base legal, retención y redacción de cualquier PII.

• Riesgo del modelo: registre modelos, defina el uso previsto, pruebe para deriva y mensajes adversarios.

• Explanabilidad: almacene fuentes y pares de mensajes/resultados; marque el contenido asistido por IA en los registros.

• Responsabilidad: defina cuándo un humano debe firmar (por ejemplo, crédito, seguridad, avisos legales).

• Ética y sesgo: pruebe salidas por impacto dispar; publique mitigaciones.

Guía práctica: implementación de 60 días para una unidad de negocio

Semanas 1–2 – Descubrimiento de preguntas: realice talleres; recoja las 20 preguntas sin respuesta principales; clasifique por impacto/viabilidad/riesgo.
Semanas 3–4 – Construcciones de tajadas delgadas: publique de 3 a 5 mensajes con recuperación sobre fuentes aprobadas; requiera citaciones; establezca rúbricas de revisión.
Semanas 5–6 – Piloto: 50 a 100 usuarios; rastree el tiempo de respuesta, tasa de anulaciones y satisfacción del usuario; agregue tareas de traducción y resumen.
Semanas 7–8 – Endurecimiento de la gobernanza: añada registros, actualizaciones de RBAC, DPIA; publique lista de problemas conocidos y la guía.

Conclusión

La IA seguirá mejorando en la resolución de problemas. La ventaja fluirá hacia organizaciones que formulen mejores preguntas, diseñen sistemas con humano en el circuito y adopten patrones híbridos/en dispositivo donde reduzcan el riesgo y el costo.

Próximos pasos: ¿Quiere un sprint de pregunta a impacto para su equipo? Generation Digital puede facilitar talleres de descubrimiento, construir asistentes de tajada delgada y establecer gobernanza en semanas.

Preguntas frecuentes

P1. ¿Qué significa “La IA resuelve; los humanos deciden” para mi hoja de ruta?
R. Trate el descubrimiento de preguntas y la revisión como capacidades centrales. Construya una línea desde el planteamiento del problema hasta el despliegue gobernado con métricas claras.

P2. ¿Necesitamos IA en el dispositivo ahora?
R. No en todas partes. Comience con tareas sensibles a latencia o privacidad; pruebe patrones híbridos y mida el impacto.

P3. ¿Cómo evitamos alucinaciones?
R. Use recuperación sobre fuentes confiables, requiera citaciones para tareas críticas y haga cumplir la revisión humana antes de publicar.

P4. ¿Qué métricas prueban valor?
R. Tiempo de respuesta, tasa de anulaciones por parte del revisor, cobertura de citas, tasas de resolución y costo por tarea.

P5. ¿Cómo mantenemos felices a los auditores?
R. Registre mensajes/resultados, fije versiones de modelo, almacene fuentes y mantenga puntos de aprobación para decisiones de alto impacto.