Conector de llm

Una Herramienta Sumor Cloud.
Más Documentación

Esto es un conector llm para múltiples proveedores de servicios en la nube.

Proveedores LLM Soportados

OpenAI

OpenAI es un laboratorio de investigación que consiste en la empresa con fines de lucro OpenAI LP y la empresa sin ánimo de lucro OpenAI Inc. La compañía tiene como objetivo asegurar que la inteligencia artificial general beneficie a toda la humanidad.

• gpt-3.5-turbo
• gpt-4o

qianWen

Alibaba Qianwen es un servicio de inteligencia artificial basado en la nube que proporciona una variedad de capacidades de IA, incluyendo procesamiento de lenguaje natural, visión computarizada y aprendizaje automático.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

Instalación

npm i @sumor/llm-connector --save

Requisitos previos

Versión Node.JS

Requiere Node.JS versión 18.x o superior

Requiere módulo ES de Node.JS

Como este paquete está escrito en módulo ES, por favor cambie el siguiente código en su archivo package.json:

{
  "type": "module"
}

Uso

Chat

import Modelo from '@sumor/llm-connector'

const modelo = new Modelo({
  type: 'openAI', // o 'qianWen'
  key: '123'
})

const respuesta = await modelo.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'Eres un asistente útil.'
  },
  {
    role: 'user',
    content: 'Hola'
  }
])

console.log(respuesta)
// Salida: { role: 'assistant', content: 'Hola, ¿cómo puedo ayudarte hoy?' }

Imagen

import Modelo from '@sumor/llm-connector'

const modelo = new Modelo({
  type: 'openAI', // o 'qianWen'
  key: '123'
})

const respuesta = await modelo.image('dall-e-3', 'una pintura de un jarrón de flores', '1024x1024')
console.log(respuesta)
// Salida: https://oaidalleapiprodscus.blob.core.windows.net/private/org-B7O45Q0iSubrkWb...

URL de punto Final de API personalizada

import Modelo from '@sumor/llm-connector'

const modelo = new Modelo({
  type: 'openAI',
  key: '123',
  endpoint: 'https://api.openai.com',
  chat: '/v1/chat',
  image: '/v1/image'
})