Groq

AI-перевод с Groq и Lingo.dev Compiler

Что такое Groq?

Groq — это компания, которая разрабатывает высокопроизводительное оборудование и программное обеспечение для ИИ, оптимизированное для сверхнизкой задержки вывода. Ее решения направлены на ускорение рабочих нагрузок ИИ в таких областях, как крупные языковые модели и аналитика в реальном времени, благодаря использованию собственной архитектуры Tensor Streaming Processor.

Настройка API-ключа

Для аутентификации запросов от Lingo.dev Compiler Groq требует API-ключ. Выберите метод настройки, который лучше всего подходит для вашего рабочего процесса:

Вариант 1: Переменная окружения (терминал)

Лучше всего подходит для быстрых экспериментов и тестирования без изменения файлов.

Установите ключ напрямую в вашей сессии терминала:

export GROQ_API_KEY="your-api-key-here"

Этот ключ будет доступен только до закрытия окна терминала.

Вариант 2: Конфигурация проекта (.env)

Лучше всего подходит для конфигурации, специфичной для проекта, и командной работы, где каждый проект может использовать разные учетные данные.

Создайте файл .env в корневой директории вашего проекта:

touch .env

Добавьте следующую строку в файл:

GROQ_API_KEY="your-api-key-here"

Lingo.dev Compiler проверяет файлы окружения в следующем порядке приоритета:

  1. .env.development (наивысший приоритет)
  2. .env.local
  3. .env (наименьший приоритет)

Значения в файлах с более высоким приоритетом переопределяют значения в файлах с более низким приоритетом.

Вариант 3: Глобальная конфигурация (настройки пользователя)

Лучше всего подходит для индивидуальных разработчиков, которые хотят использовать один и тот же API-ключ во всех своих проектах.

Создайте файл конфигурации в домашней директории:

touch ~/.lingodotdevrc

Добавьте следующий контент в файл:

[llm]
groqApiKey="your-api-key-here"

Эта конфигурация сохраняется во всех сессиях терминала и проектах на вашем компьютере.

Приоритет конфигурации

Когда используются несколько методов конфигурации, Lingo.dev Compiler проверяет API-ключи в следующем порядке:

  1. Переменные окружения (наивысший приоритет)
  2. Файлы .env проекта (в их собственном порядке приоритета)
  3. Файл конфигурации пользователя ~/.lingodotdevrc (наименьший приоритет)

Используется первый найденный действительный API-ключ.

Использование Groq

Чтобы включить Groq, установите свойство models в параметрах компилятора:

import react from "@vitejs/plugin-react";
import lingoCompiler from "lingo.dev/compiler";
import { type UserConfig } from "vite";

// https://vite.dev/config/
const viteConfig: UserConfig = {
  plugins: [react()],
};

const withLingo = lingoCompiler.vite({
  sourceRoot: "src",
  lingoDir: "lingo",
  sourceLocale: "en",
  targetLocales: ["es", "fr", "de", "ja"],
  rsc: false,
  useDirective: false,
  debug: false,
  models: {
    "*:*": "groq:llama-3.1-8b-instant",
  },
});

export default withLingo(viteConfig);

Свойство принимает объект, где:

  • ключи — это пары исходного и целевого языков, где * представляет любой язык
  • значения — это идентификаторы моделей (например, groq:llama-3.1-8b-instant)

Вы можете использовать Groq для перевода:

  • между всеми языками
  • с конкретного исходного языка
  • на конкретный целевой язык
  • между конкретным исходным и целевым языками

Перевод всех языков

Используйте шаблон подстановки *:*, чтобы применить одну и ту же модель Groq для всех пар перевода:

const withLingo = lingoCompiler.vite({
  sourceRoot: "src",
  lingoDir: "lingo",
  sourceLocale: "en",
  targetLocales: ["es", "fr", "de", "ja", "pt", "zh"],
  models: {
    // Использовать Llama 3.1 8B для всех пар перевода
    "*:*": "groq:llama-3.1-8b-instant",
  },
});

Перевод с конкретного исходного языка

Используйте конкретный исходный язык с подстановкой для целевого, чтобы применить модель для всех переводов с этого языка:

const withLingo = lingoCompiler.vite({
  sourceRoot: "src",
  lingoDir: "lingo",
  sourceLocale: "en",
  targetLocales: ["es", "fr", "de", "ja", "pt", "zh"],
  models: {
    // Использовать Llama 3.1 70B для всех переводов с английского
    "en:*": "groq:llama-3.1-70b-versatile",
    // Использовать Mixtral для переводов с испанского на любой язык
    "es:*": "groq:mixtral-8x7b-32768",
    // Резервная модель для других исходных языков
    "*:*": "groq:llama-3.1-8b-instant",
  },
});

Перевод на конкретный целевой язык

Используйте универсальный источник с указанием конкретного целевого языка, чтобы применить модель для всех переводов на этот язык:

const withLingo = lingoCompiler.vite({
  sourceRoot: "src",
  lingoDir: "lingo",
  sourceLocale: "en",
  targetLocales: ["es", "fr", "de", "ja", "pt", "zh"],
  models: {
    // Использовать специализированную модель для переводов на японский
    "*:ja": "groq:llama-3.1-70b-versatile",
    // Использовать Mixtral для переводов на китайский
    "*:zh": "groq:mixtral-8x7b-32768",
    // Использовать Gemma 2 для переводов на немецкий
    "*:de": "groq:gemma2-9b-it",
    // По умолчанию для других целевых языков
    "*:*": "groq:llama-3.1-8b-instant",
  },
});

Перевод между конкретными языками

Определите точные пары источник-цель для детального контроля над тем, какая модель обрабатывает определённые языковые комбинации:

const withLingo = lingoCompiler.vite({
  sourceRoot: "src",
  lingoDir: "lingo",
  sourceLocale: "en",
  targetLocales: ["es", "fr", "de", "ja", "pt", "zh"],
  models: {
    // Конкретные пары с оптимальными моделями
    "en:es": "groq:llama-3.1-70b-versatile", // С английского на испанский
    "en:ja": "groq:llama-3.1-70b-versatile", // С английского на японский
    "en:zh": "groq:mixtral-8x7b-32768", // С английского на китайский
    "es:en": "groq:llama-3.1-8b-instant", // С испанского на английский
    "fr:en": "groq:gemma2-9b-it", // С французского на английский
    "de:en": "groq:gemma2-9b-it", // С немецкого на английский

    // Резерв для неуказанных пар
    "*:*": "groq:llama-3.1-8b-instant",
  },
});