llm-connector

Una Herramienta Sumor Cloud.
Más Documentación

Este es un conector llm para múltiples proveedores de nube.

Proveedores de LLM Soportados

openAI

OpenAI es un laboratorio de investigación que consta de la empresa con fines de lucro OpenAI LP y la organización sin fines de lucro OpenAI Inc. La empresa tiene como objetivo garantizar que la inteligencia artificial general beneficie a toda la humanidad.

• gpt-3.5-turbo
• gpt-4o

qianWen

Alibaba Qianwen es un servicio de inteligencia artificial basado en la nube que proporciona una variedad de capacidades de IA, incluyendo procesamiento de lenguaje natural, visión por computadora y aprendizaje automático.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

Instalación

npm i @sumor/llm-connector --save

Requisitos Previos

Versión Node.JS

Se requiere la versión Node.JS 18.x o superior

Requiere módulos ES de Node.JS

Como este paquete está escrito en módulos ES, por favor cambie el siguiente código en su archivo package.json:

{
  "type": "module"
}

Uso

Chat

import Model from '@sumor/llm-connector'

const modelo = new Model({
  type: 'openAI', // o 'qianWen'
  clave: '123'
})

const respuesta = await modelo.chat('gpt-3.5-turbo', [
  {
    rol: 'sistema',
    contenido: 'Eres un asistente útil.'
  },
  {
    rol: 'usuario',
    contenido: 'Hola'
  }
])

console.log(respuesta)
// Salida: { rol: 'asistente', contenido: 'Hola, ¿en qué puedo ayudarte hoy?' }

URL de Extremo de API Personalizada

import Model from '@sumor/llm-connector'

const modelo = new Model({
  type: 'openAI',
  clave: '123',
  extremo: 'https://api.openai.com',
  chat: '/v1/chat'
})