llm-connector

Un outil Sumor Cloud.
Plus de documentation

Il s'agit d'un connecteur llm pour plusieurs fournisseurs de cloud.

Fournisseurs LLM pris en charge

openAI

OpenAI est un laboratoire de recherche composé de OpenAI LP à but lucratif et de OpenAI Inc. à but non lucratif. La société vise à garantir que l'intelligence artificielle générale bénéficie à toute l'humanité.

• gpt-3.5-turbo
• gpt-4o

qianWen

Alibaba Qianwen est un service d'IA basé sur le cloud qui fournit une variété de capacités en IA, y compris le traitement du langage naturel, la vision par ordinateur et l'apprentissage automatique.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

Installation

npm i @sumor/llm-connector --save

Prérequis

Version Node.JS

Nécessite Node.JS version 18.x ou ultérieure

Nécessite le module ES de Node.JS

Comme ce package est écrit en module ES, veuillez modifier le code suivant dans votre fichier package.json :

{
  "type": "module"
}

Utilisation

Chat

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // ou 'qianWen'
  key: '123'
})

const response = await model.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'Vous êtes un assistant serviable.'
  },
  {
    role: 'user',
    content: 'Bonjour'
  }
])

console.log(response)
// Sortie : { role: 'assistant', content: 'Bonjour, comment puis-je vous aider aujourd'hui ?' }

Image

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // ou 'qianWen'
  key: '123'
})

const response = await model.image('dall-e-3', 'une peinture d'un vase de fleurs', '1024x1024')
console.log(response)
// Sortie : https://oaidalleapiprodscus.blob.core.windows.net/private/org-B7O45Q0iSubrkWb...

URL de point de terminaison API personnalisée

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI',
  key: '123',
  endpoint: 'https://api.openai.com',
  chat: '/v1/chat',
  image: '/v1/image'
})