Experiencia · Acceso a modelos AI
Ponemos entre las aplicaciones de la empresa y los proveedores de modelos un único punto de entrada, compatible con la interfaz de OpenAI. Desde ahí se emiten claves separadas por proyecto, con tope de gasto, lista de modelos permitidos y lista de direcciones IP, y el consumo se ve por clave.
Ya construidoPoarta rulează și se poate verifica din afară azi, fără să ne credeți pe cuvânt: catalogul public de modele răspunde 200 și listează 106 modele marcate active, iar interogarea de modele fără cheie întoarce 401. Sub ea sunt două implementări proprii: serviciul de facturare și administrare (98 de fișiere TypeScript) care emite cheile, sincronizează plafoanele cu poarta și ține registrele, și platforma noastră de asistenți, care își trece în producție recunoașterea vocii și sinteza prin aceeași poartă, nu direct la furnizor. Rezervele, spuse aici și nu la subsol: catalogul se schimbă de la o oră la alta, deci orice cifră se scrie cu data lângă ea; nu există niciun model Anthropic în poartă azi, deși propriul nostru README promite altceva; iar trimiterea automată a facturii în sistemul de stat rămâne în regim de probă până la instalarea certificatului.
El problema aparece por segunda vez, no la primera. La primera integración con un proveedor de modelos es sencilla: una clave, una biblioteca, listo. La quinta aplicación, el tercer equipo y la segunda factura en moneda extranjera son el momento en que nadie ya puede responder a tres preguntas banales: quién consume, cuánto, y qué pasa si un script se descontrola en una noche de sábado. La puerta resuelve exactamente eso: las aplicaciones ya no hablan con los proveedores, hablan con un único punto de entrada que tiene la misma interfaz que la API de OpenAI, así que en la mayoría de las bibliotecas cambias la URL base y la clave, no el código.
Lo que puedes verificar tú mismo, ahora mismo, sin cuenta: el catálogo público de modelos de la puerta responde y dice qué tiene dentro. En la verificación de hoy había 106 modelos, todos marcados como activos — 77 modelos de texto, de los cuales 48 declaran capacidades de razonamiento, 10 de audio, 7 de imagen, 7 en tiempo real, 3 de vectorización y 2 de video. La misma verificación hecha por un colega una hora y media antes devolvía 107. Por eso la cifra se escribe siempre con la hora al lado, y en el sitio debería leerse desde el endpoint, no teclearse a mano.
El control del costo no es un panel, es un freno. Una clave tiene un tope de gasto, un período de tope a elegir entre cuatro, una lista de modelos permitidos, una lista de direcciones IP aceptadas — hasta veinte, IPv4, IPv6 o bloques — y un indicador de bloqueo. Cuando se supera un tope, la clave se bloquea automáticamente y el motivo se escribe en ella, para que la interfaz pueda decir por qué, en lugar de mostrar un estado mudo. También existe una corrección que pocos hacen: los modelos que “piensan” antes de responder le cuestan al proveedor más de lo que ve la puerta, así que el tope bruto enviado más abajo se divide por un factor de razonamiento calculado como mediana sobre los últimos treinta días del usuario, limitado entre uno y veinte. Sin esa corrección, un tope de gasto sería decorativo justamente en los modelos caros.
La parte local. El tipo de cambio se lee del archivo XML oficial del Banco Nacional de Moldavia para el día actual, con timeout de cinco segundos y un valor de reserva de la configuración cuando la fuente no responde — una puerta no tiene derecho a detenerse porque un sitio de tipo de cambio no esté disponible. La factura fiscal se construye como XML y se almacena, con un ciclo de estados de borrador a aceptada o rechazada. El envío propiamente dicho al sistema estatal se hace con certificado; mientras el certificado no esté instalado, el servicio permanece en modo de prueba: el XML se genera y se guarda, pero no se envía. Ese es el estado real y lo escribimos, porque es la diferencia entre «tenemos factura fiscal» y «tenemos todo lo necesario para enviarla».
Qué incluye
Las aplicaciones conservan las bibliotecas con las que están escritas y cambian la URL base y la clave. La puerta pide clave: la consulta de la lista de modelos sin encabezado de autorización devuelve 401, verificado hoy desde fuera. La verificación de disponibilidad del servicio responde públicamente, con encabezados de seguridad activados (`X-Frame-Options: DENY`, política de contenido que prohíbe el encuadre).
Cada clave tiene un alias derivado del usuario y del nombre dado, un tope de gasto, un período de tope elegido entre un día, siete, treinta o noventa, una lista de modelos permitidos y un gasto actual. La clave se crea mediante la interfaz de administración de la puerta y se persiste localmente, para que ambas no se separen.
Cuando se supera el tope, la clave se bloquea y en ella quedan el momento de la aplicación, el inicio del período y el motivo. El comentario del código dice por qué se añadió: para que la interfaz pueda mostrar por qué una clave está bloqueada, en lugar de un estado mudo que nadie puede explicar.
Hasta veinte entradas por clave, cada una IPv4, IPv6 o bloque CIDR, validadas al entrar. La lista no se queda solo en nuestra base de datos: se envía además a la puerta, que la aplica efectivamente en cada solicitud.
Los modelos que producen pasos de pensamiento antes de la respuesta son facturados por el proveedor por esos pasos, pero la puerta no los ve. El tope bruto enviado a la puerta se calcula dividiendo el tope del cliente por el margen aplicado y por un factor de razonamiento — la mediana observada en los últimos treinta días para ese usuario, con umbral mínimo de uno y límite en veinte. Sin él, un tope se respetaría en los modelos baratos y se superaría justamente en los caros.
El tipo de cambio se lee del XML oficial del Banco Nacional de Moldavia para la fecha actual, con interrupción después de cinco segundos. Si la fuente no responde, se usa el valor de reserva de la configuración. La conversión no es una aproximación hecha en la oficina; es una lectura de un documento público, con comportamiento definido ante fallos.
El documento se genera como XML a partir de una transacción pagada, se almacena y pasa por estados: borrador, pendiente de envío, enviada, aceptada o rechazada. Existe activación manual y otra programada diariamente para los usuarios que tienen el código fiscal completado.
El diario es solo de adición y cubre 64 tipos de eventos nombrados — autenticaciones exitosas y fallidas, verificación en dos pasos, rotaciones de contraseña, creación, bloqueo, eliminación de claves, modificación de límite. La exportación exigida por el Reglamento General de Protección de Datos produce un archivo con las tablas vinculadas a un usuario, JSON para los datos anidados y CSV para los voluminosos, con una excepción escrita en el código: de las claves se exportan los metadatos, nunca el material del token.
Nuestra plataforma de asistentes pone en producción el reconocimiento de voz y la síntesis a través de la misma puerta, no directamente al proveedor, con el sufijo de versión impuesto en el código. Cuando la puerta cae, caemos también nosotros — lo que es la única configuración en la que vale la pena recomendarla a alguien más.
Qué aspecto tiene
Por lo general, salen a la luz claves personales en archivos de configuración, dos cuentas de proveedor en el mismo equipo y al menos un servicio del que nadie recuerda que siga en ejecución. El resultado es una lista con aplicación, clave, modelo, volumen estimado — el punto desde el cual se puede hablar de límites.
Se cambia la dirección base y la clave en un solo lugar, se comparan las respuestas con las anteriores y se verifica el flujo de errores: modelo inexistente, clave bloqueada, límite superado, proveedor no disponible. Solo después de que la primera aplicación se comporte de forma idéntica, sigue el resto.
Una clave por aplicación y por entorno, con límite, período, lista de modelos permitidos y, donde los servidores tienen direcciones fijas, lista de IP. El límite se calcula con la corrección para los modelos que razonan, de lo contrario es una cifra que tranquiliza sin detener nada.
Tipo de cambio de la fuente oficial, factura generada a partir de la transacción pagada, ciclo de estados. Se verifica explícitamente si el certificado de envío está instalado: sin él, los documentos se construyen y quedan en espera. Es una distinción que la contabilidad descubre de todos modos, mejor en la primera semana.
Quién puede crear claves, quién puede elevar un límite, qué se registra, cómo se solicita la exportación de los datos de un usuario y qué se hace el día en que una clave llega donde no debe.
Los datos
Las preguntas que hace cualquiera que tenga un delegado de protección de datos — hechas aquí antes de que las haga él.
Un caso
La situación
La situación habitual en una empresa que ya pasó la primera integración: varias aplicaciones llaman a modelos con claves prestadas, el consumo aparece en una sola factura en divisa, y nadie puede decir qué aplicación produjo el pico de la semana pasada.
Qué construimos
Pusimos la gate delante de las aplicaciones, con una interfaz compatible con la biblioteca que ya usaban, y emitimos claves separadas por proyecto. Cada clave recibió tope, período de tope, lista de modelos permitidos y, donde los servidores tenían direcciones fijas, una lista de IP impuesta por la gate. El tope bruto enviado más abajo se calcula con la corrección para los modelos que razonan: se divide entre el margen aplicado y entre el factor mediano del usuario en los últimos treinta días, limitado entre uno y veinte.
Qué salió
El consumo se lee por clave, así que por aplicación. Al superar el tope, la clave se bloquea sola y el motivo queda escrito en ella, así que la pregunta «por qué ya no funciona» tiene respuesta sin que nadie abra los registros. La facturación en lei se hace según el tipo de cambio oficial leído del XML del día. Desde fuera se puede verificar en cualquier momento que la gate pide clave: la lista de modelos sin autorización devuelve 401.
Qué no dice el caso
Un único punto de entrada también es un único punto de caída — se diseña desde el inicio qué hacen las aplicaciones cuando la gate no responde. El catálogo de modelos cambia de una hora a otra, así que cualquier lista impresa envejece; en el día de la verificación no existía ningún modelo Anthropic, aunque nuestra documentación más antigua lo prometía. Y el envío automático de la factura al sistema estatal depende de un certificado instalado en el servidor: sin él, los documentos se construyen y esperan.
Preguntas
En la verificación de hoy, 106, todos marcados como activos: 77 de texto (48 de ellos declaran razonamiento), 10 de audio, 7 de imagen, 7 en tiempo real, 3 de vectorización y 2 de video. El catálogo es público y se puede leer sin cuenta. Decimos «en la verificación de hoy» porque un colega midió 107 una hora y media antes, el mismo día. Un número sin hora junto a él no significa nada.
No, ninguno. Filtramos el catálogo en vivo por todas las denominaciones de esa familia: cero resultados. Decimos esto aunque nuestro propio README promete otra cosa — el documento es viejo, la gate es la verdad. Los modelos Gemini, en cambio, están presentes, igual que la síntesis de voz de un proveedor especializado y los modelos de video.
En el caso habitual, no: la gate expone la interfaz compatible con OpenAI, así que cambian la dirección base y la clave. Los casos que requieren atención son los que usan particularidades de un proveedor concreto — ya encontramos uno, donde la biblioteca específica de Azure construía direcciones que la gate no entendía, y se resolvió pasando al cliente estándar. Por eso la primera aplicación se mueve sola, no todas a la vez.
Con límite por clave y período de límite, más bloqueo automático al superar el límite, con el motivo escrito en la clave. Además, el límite tiene en cuenta que los modelos que razonan cuestan al proveedor más de lo que ve la puerta: el límite bruto se divide entre un factor calculado como mediana de los últimos treinta días del usuario. Sin esa corrección, los límites funcionan en los modelos baratos y fallan en los caros.
Ninguna expresada en cifras, y es una posición deliberada. No tenemos colector de disponibilidad en el código, y la fuente que nuestros propios materiales citan como método de cálculo no responde a la verificación de hoy. Lo que se puede mostrar ahora: la verificación de vida del servicio responde públicamente, y la página de estado hace sondas en vivo, sin historial. Un porcentaje lo podríamos escribir en cualquier momento; sería un compromiso contractual disfrazado de medición.
La conversión desde la divisa se hace según el tipo oficial del Banco Nacional, leído del XML del día, con interrupción después de cinco segundos y valor de respaldo en caso de indisponibilidad. La factura se construye como documento fiscal y pasa por un ciclo de estados. El envío automático al sistema del Estado requiere un certificado: mientras no esté instalado, los documentos se generan y quedan en espera, sin salir. Verificamos juntos en qué régimen está el sistema el día en que empezamos, porque es una configuración del servidor, no del código.
Metadatos de consumo: la clave, el modelo, el volumen, el costo, el momento. La puerta contabiliza, no archiva conversaciones; lo que se conserva del contenido es la decisión de la aplicación que lo genera, y si la aplicación es nuestra, eso se escribe en el contrato. La exportación de datos personales de una persona produce un archivo con lo que está vinculado a ella, y de las claves exporta los metadatos, nunca el material del token.
Se declaran por escrito, con nombre, porque se convierten en subencargados para los datos que pasan por ellos. Existen páginas públicas para subencargados, el acuerdo de tratamiento y la protección de datos, verificadas hoy. Una puerta que oculta a los proveedores del responsable del tratamiento no resuelve un problema de cumplimiento, lo desplaza más adentro.
Caen las aplicaciones que dependen de ella, incluidas las nuestras — nuestra plataforma de asistentes pasa el reconocimiento de voz y la síntesis por la misma puerta. No tiene sentido pretender otra cosa: es el compromiso de un único punto de entrada, pagado a cambio del control, de las claves separadas y de una sola factura. Para aplicaciones críticas se discute desde el inicio qué pasa en su ausencia — respuesta degradada, cola o error limpio — porque eso es un comportamiento que hay que diseñar, no esperar.
9 de ellas son código y archivos de nuestros repositorios. No publicamos su nombre ni la línea: juntos, en una sola página, describirían con demasiada precisión cómo están construidos sistemas que no son solo nuestros. Los repasamos contigo, en el repositorio, a petición — la verificación sigue siendo posible, solo que se hace en una conversación.
Cuéntanos tu proceso. Juntos decidimos qué merece la pena construir, qué podemos conectar y cómo verificamos el resultado.