جهاز الاتصال llm

أداة سومور كلاود.
مزيد من التوثيق

هذا هو جهاز اتصال llm لمقدمي خدمات السحابة المتعددين.

مقدمو خدمات السحابة المدعومون

OpenAI

• gpt-3.5-turbo
• gpt-4o

أليبابا قيانوين

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

التثبيت

npm i @sumor/llm-connector --save

المتطلبات الأساسية

إصدار Node.JS

يتطلب إصدار Node.JS 16.x أو أعلى

يُتطلب موديول Node.JS ES

نظرًا لأن هذه الحزمة مكتوبة بلغة ES module، يُرجى تغيير الكود التالي في ملف package.json الخاص بك:

{
  "type": "module"
}

الاستخدام

الدردشة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openai', // or 'qianwen'
  key: '123'
})

const response = await model.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'أنت مساعد مفيد.'
  },
  {
    role: 'user',
    content: 'مرحبًا'
  }
])

console.log(response)
// النتيجة: { role: 'مساعد', content: 'مرحبًا، كيف يمكنني مساعدتك اليوم؟' }

عنوان URL مخصص لنقطة النهاية API

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openai',
  key: '123',
  endpoint: {
    chat: 'https://api.openai.com/v1/chat'
  }
})