Agentes de IA: qué delegar y dónde parar
Un agente de IA elige herramientas y pasos para completar una tarea. Antes de delegar, conviene revisar qué decisiones puede tomar, qué permisos necesita y cómo pueden propagarse sus errores.
Modelos, herramientas y límites: local y nube sin falsas equivalencias.
Un agente de IA elige herramientas y pasos para completar una tarea. Antes de delegar, conviene revisar qué decisiones puede tomar, qué permisos necesita y cómo pueden propagarse sus errores.
Q4 y Q8 reducen la memoria que ocupan los pesos del modelo. Ese ahorro debe valorarse junto con la calidad de las respuestas y la velocidad, distinguiendo las estimaciones de las mediciones.
Para comparar la IA local con la nube, primero hay que definir el trabajo. Las tareas, las herramientas, las versiones y los costes aportan más contexto que una puntuación aislada.
Los pesos del modelo solo ocupan una parte de la memoria necesaria. La caché KV, la longitud del contexto y el entorno de ejecución también cuentan al elegir hardware.