LLMs

Os endpoints de LLMs permitem a interação com os modelos de linguagem na plataforma SipPulse AI. Você pode obter uma lista de todos os modelos disponíveis e gerar respostas usando os modelos de linguagem.

Endpoints

GET /llms/models

Este endpoint retorna uma lista de todos os modelos de LLMs disponíveis.

Parâmetros de Consulta

• status (opcional): O status dos modelos. Pode ser active ou inactive. O padrão é active.

Exemplo de Requisição

cURL

curl -X 'GET' \
  'https://api.sippulse.ai/v1/llms/models' \
  -H 'Content-Type: application/json' \
  -H 'api-key: $SIPPULSE_API_KEY'

Python

import requests

url = "https://api.sippulse.ai/v1/llms/models"
headers = {
    "Content-Type": "application/json",
    "api-key": "SIPPULSE_API_KEY"
}

response = requests.get(url, headers=headers)
print(response.json())

JavaScript

const url = "https://api.sippulse.ai/v1/llms/models";
const headers = {
  "Content-Type": "application/json",
  "api-key": "SIPPULSE_API_KEY",
};

fetch(url, {
  method: "GET",
  headers: headers,
})
  .then((response) => response.json())
  .then((data) => console.log(data))
  .catch((error) => console.error("Error:", error));

Exemplo de Resposta

[
  { "name": "claude-3-haiku-20240307", "status": "active" },
  { "name": "claude-3-sonnet-20240229", "status": "active" }
  // ...
]

POST /llms/completion

Este endpoint gera uma resposta com base em uma entrada de mensagem usando o modelo especificado.

Corpo da Requisição

{
  "model": "string", // Nome do modelo a ser usado, utilize o endpoint /llms/models para obter a lista de modelos disponíveis
  "messages": [
    // Lista de mensagens que constituem a conversa
    {
      "role": "system",
      "content": "Você é um assistente útil e amigável."
    },
    {
      "role": "user",
      "content": "Quais são as últimas notícias em tecnologia?"
    }
  ],
  "temperature": 0.7, // (opcional) Controle da aleatoriedade
  "max_tokens": 150, // (opcional) Número máximo de tokens a serem gerados
  "top_p": 0.9, // (opcional) Amostra de tokens com probabilidade de `top_p`
  "frequency_penalty": 0, // (opcional) Penalidade de frequência
  "presence_penalty": 0 // (opcional) Penalidade de presença
}

Exemplo de Requisição

cURL

curl -X 'POST' \
  'https://api.sippulse.ai/v1/llms/completion' \
  -H 'Content-Type: application/json' \
  -H 'api-key: $SIPPULSE_API_KEY' \
  -d '{
  "model": "gpt-4o",
  "messages": [
    {
      "role": "system",
      "content": "Você é um assistente útil e amigável."
    },
    {
      "role": "user",
      "content": "Quais são as últimas notícias em tecnologia?"
    }
  ],
  "temperature": 0.7,
  "max_tokens": 150,
  "top_p": 0.9
}'

Python

import requests
import json

url = "https://api.sippulse.ai/v1/llms/completion"
headers = {
    "Content-Type": "application/json",
    "api-key": "SIPPULSE_API_KEY"
}
data = {
    "model": "gpt-4o",
    "messages": [
        {"role": "system", "content": "Você é um assistente útil e amigável."},
        {"role": "user", "content": "Quais são as últimas notícias em tecnologia?"}
    ],
    "temperature": 0.7,
    "max_tokens": 150,
    "top_p": 0.9
}

response = requests.post(url, headers=headers, data=json.dumps(data))
print(response.json())

JavaScript

const url = "https://api.sippulse.ai/v1/llms/completion";
const headers = {
  "Content-Type": "application/json",
  "api-key": "SIPPULSE_API_KEY",
};
const data = {
  model: "gpt-4o",
  messages: [
    {
      role: "system",
      content: "Você é um assistente útil e amigável.",
    },
    {
      role: "user",
      content: "Quais são as últimas notícias em tecnologia?",
    },
  ],
  temperature: 0.7,
  max_tokens: 150,
  top_p: 0.9,
};

fetch(url, {
  method: "POST",
  headers: headers,
  body: JSON.stringify(data),
})
  .then((response) => response.json())
  .then((data) => console.log(data))
  .catch((error) => console.error("Error:", error));

Exemplo de Resposta

{
  "cached": false,
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Infelizmente, não tenho acesso em tempo real a notícias ou atualizações, pois meus dados foram atualizados pela última vez em outubro de 2023. No entanto, posso te informar sobre algumas tendências gerais e inovações recentes até essa data:\n\n1. **Inteligência Artificial e Machine Learning**: Avanços significativos continuam a ser feitos em IA e ML, com novas aplicações em áreas como saúde, automação industrial, e serviços ao consumidor.\n\n2. **Computação Quântica**: Empresas como Google, IBM e outras estão progredindo na computação quântica, prometendo resolver problemas complexos que são impraticáveis para computadores clássicos.\n\n3. **5G e Conectividade**: A implementação"
      },
      "logprobs": null,
      "finish_reason": "length"
    }
  ],
  "usage": {
    "input_tokens": 150,
    "output_tokens": 30
  },
  "model": "gpt-4o-2024-05-13",
  "execution_time": 3156
}

Conclusão

Os endpoints de LLMs da SipPulse AI oferecem uma forma poderosa de integrar capacidades avançadas de geração de texto em suas aplicações. Utilize as informações e exemplos fornecidos para começar a explorar e implementar essas funcionalidades em seus projetos.