Connecteur llm

Un outil Sumor Cloud.
Plus de Documentation

Il s'agit d'un connecteur llm pour plusieurs fournisseurs de cloud.

Fournisseurs LLM pris en charge

OpenAI

OpenAI est un laboratoire de recherche composé de la société à but lucratif OpenAI LP et de la société à but non lucratif OpenAI Inc. L'entreprise vise à garantir que l'intelligence artificielle générale bénéficie à toute l'humanité.

• gpt-3.5-turbo
• gpt-4o

QianWen

Alibaba Qianwen est un service d'intelligence artificielle basé sur le cloud qui fournit une variété de capacités d'IA, y compris le traitement du langage naturel, la vision par ordinateur et l'apprentissage automatique.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

Installation

npm i @sumor/llm-connector --save

Prérequis

Version Node.JS

Nécessite la version Node.JS 18.x ou supérieure

nécessite un module ES Node.JS

Comme ce package est écrit en module ES, veuillez changer le code suivant dans votre fichier package.json:

{
  "type": "module"
}

Utilisation

Discussion

import Model from '@sumor/llm-connector'

const modèle = new Model({
  type: 'openAI', // ou 'qianWen'
  clé: '123'
})

const réponse = await modèle.discussion('gpt-3.5-turbo', [
  {
    rôle: 'système',
    contenu: 'Vous êtes un assistant utile.'
  },
  {
    rôle: 'utilisateur',
    contenu: 'Bonjour'
  }
])

console.log(réponse)
// Résultat: { rôle: 'assistant', contenu: 'Bonjour, comment puis-je vous aider aujourd'hui ?' }

URL de point de terminaison API personnalisée

import Model from '@sumor/llm-connector'

const modèle = new Model({
  type: 'openAI',
  clé: '123',
  pointDeTerminaison: 'https://api.openai.com',
  discussion: '/v1/discussion'
})