El 27 de octubre Opera anunció WebAI: una propuesta de API web para usar modelos locales —cita Gemma de Google— dentro del navegador, sin round-trip a un servidor de inferencia para cada petición. El contenido procesado no necesita salir de la máquina. La diferencia frente a una demo aislada es que Opera ya ofrece una versión preliminar en Opera One, aunque la propuesta aún no es un estándar W3C.
Qué propone, en una capa
Opera presenta WebAI como un estándar propuesto, aún no un estándar W3C. Su implementación inicial admite las Built-in AI APIs, además de Semantic Embedder y Decisions, con una capa de inferencia local incorporada al navegador. No exige que cada sitio aloje su propio servidor ni que el usuario instale otra aplicación. Está en early preview y es opt-in en Opera One.
Lo que puedes medir hoy
La API propuesta y el motor de inferencia de Opera no deben confundirse con WebGPU: son capas diferentes. WebGPU sí permite detectar capacidades gráficas disponibles en el cliente; la siguiente prueba sirve como aproximación al hardware para tus propias pruebas, no como detector de compatibilidad con WebAI:
const adapter = await navigator.gpu?.requestAdapter()
if (!adapter) {
console.warn('WebGPU no disponible: esta prueba no mide WebAI')
} else {
const limits = adapter.limits
console.info(
'buffer max MB:',
Math.round(limits.maxBufferSize / 1024 / 1024),
)
}Los límites que nadie promete resolver
Memoria: un modelo cuantizado de 4B aún pesa gigas; el budget de una pestaña no es el de un servidor.
Cold start: descargar pesos por primera vez puede añadir latencia inicial, según la implementación.
Batería y térmica: inferencia sostenida en laptop es un ventilador encendido.
Paridad: el mismo prompt puede dar respuestas distintas entre un cliente local y tu backend.
El navegador ya ganó la batalla del runtime; lo que falta es la batalla de los pesos.
Dónde sí la usaría
En flujos con documentos sensibles, la inferencia local reduce la necesidad de enviarlos a un proveedor remoto, aunque no reemplaza una revisión de seguridad o cumplimiento. El caso de uso depende de hardware, consentimiento y soporte real del navegador; un endpoint seguirá siendo necesario para muchos usuarios. Fuente primaria: anuncio de Opera sobre WebAI(Se abre en una pestaña nueva).