LlamaIndex

Инструмент для RAG и работы с данными. Использует ApiMira как источник моделей.

LlamaIndex принимает OpenAI-совместимый адрес прямо в конструкторе модели — отдельный пакет не нужен.

Что понадобится

Base URL

https://apimira.com/v1

API-ключ

am-ВАШ_КЛЮЧСоздаётся в кабинете, раздел «API-ключи». Полное значение показывается один раз.

Model ID

google/gemini-3.7-flashКопируется из каталога целиком, вместе с префиксом до «/».

Как подключить

1. 1Установите llama-index-llms-openai.
2. 2Создайте модель с api_base, ключом и Model ID.
3. 3Передайте её в индекс или движок запросов как обычно.

# pip install llama-index-llms-openai
from llama_index.llms.openai import OpenAI

llm = OpenAI(
    model="google/gemini-3.7-flash",
    api_base="https://apimira.com/v1",
    api_key="am-ВАШ_КЛЮЧ",
    is_chat_model=True,
    context_window=128000,
)

print(llm.complete("Hello"))

is_chat_model=True обязателен: иначе LlamaIndex пойдёт в устаревший путь /v1/completions, которого у шлюза нет. context_window ставьте по окну выбранной модели из каталога.

Вызов функций поддерживается, поэтому агентные режимы работают. Строгий JSON-режим (response_format) и снятый формат functions шлюз отвергает ошибкой unsupported_parameter — параметр не игнорируется молча. Картинки на вход принимаются у моделей с пометкой «Видит картинки» на странице «Модели»: часть content типа image_url со ссылкой вида data:image/png;base64,… (PNG, JPEG или WebP, до 5 МБ каждая, до 50 штук на запрос). Внешние ссылки шлюз не скачивает, а модель без этой пометки отвечает ошибкой unsupported_capability — обе ошибки называют причину прямо.