llm-connector

Una Herramienta Sumor Cloud.
Más Documentación

Se trata de un conector llm para varios proveedores de nube.

Proveedores LLM Soportados

openAI

OpenAI es un laboratorio de investigación que consta de OpenAI LP con fines de lucro y OpenAI Inc sin fines de lucro. La empresa tiene como objetivo garantizar que la inteligencia artificial general beneficie a toda la humanidad.

• gpt-3.5-turbo
• gpt-4o

qianWen

Alibaba Qianwen es un servicio de inteligencia artificial basado en la nube que proporciona una variedad de capacidades de IA, incluido procesamiento de lenguaje natural, visión por computadora y aprendizaje automático.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

Instalación

npm i @sumor/llm-connector --save

Requisitos previos

Versión de Node.JS

Requiere Node.JS versión 18.x o superior.

Requiere módulo ES de Node.JS

Como este paquete está escrito en módulo ES, cambie el siguiente código en su archivo package.json:

{
  "type": "module"
}

Uso

Chat

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // o 'qianWen'
  key: '123'
})

const response = await model.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'Eres un asistente útil.'
  },
  {
    role: 'user',
    content: 'Hola'
  }
])

console.log(response)
// Salida: { role: 'assistant', content: 'Hola, ¿cómo puedo ayudarte hoy?' }

Imagen

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // o 'qianWen'
  key: '123'
})

const response = await model.image('dall-e-3', 'una pintura de un jarrón de flores', '1024x1024')
console.log(response)
// Salida: https://oaidalleapiprodscus.blob.core.windows.net/private/org-B7O45Q0iSubrkWb...

URL de punto final de API personalizada

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI',
  key: '123',
  endpoint: 'https://api.openai.com',
  chat: '/v1/chat',
  image: '/v1/image'
})