موصل llm

أداة سومور كلاود.
مزيد من التوثيق

هذا هو موصل llm لمقدمي خدمات السحابة المتعددة.

موفري الخدمات السحابية المدعمة

أوبن إيه آي

• gpt-3.5-turbo
• gpt-4o

أليبابا قيانوين

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

التثبيت

npm i @sumor/llm-connector --save

الشروط الأساسية

إصدار Node.JS

تتطلب إصدار Node.JS 16.x أو أعلى

يتطلب موديول Node.JS ES

نظرًا لأن هذه الحزمة مكتوبة بلغة ES موديول، يرجى تغيير الشيفرة التالية في ملف package.json الخاص بك:

{
  "type": "module"
}

الاستخدام

دردشة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openai', // أو 'qianwen'
  key: '123'
})

const response = await model.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'أنت مساعد مفيد.'
  },
  {
    role: 'user',
    content: 'مرحبًا'
  }
])

console.log(response)
// الناتج: { role: 'assistant', content: 'مرحبًا، كيف يمكنني مساعدتك اليوم؟' }

عنوان URL مخصص لنقطة نهاية API

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openai',
  key: '123',
  endpoint: {
    chat: 'https://api.openai.com/v1/chat'
  }
})