موصل llm

أداة Sumor Cloud.
المزيد من التوثيق

هذا هو موصل llm لمقدمي خدمات السحابة المتعددين.

مقدمو خدمات LLM المدعومون

openAI

تعتبر OpenAI ورشة بحث تتكون من OpenAI LP التي تهدف إلى الربح وOpenAI Inc. التي تهدف إلى عدم الربح. تهدف الشركة إلى ضمان أن تستفيد الذكاء الاصطناعي العام من جميع فوائد البشرية.

• gpt-3.5-turbo
• gpt-4o

qianWen

يُعتبر Alibaba Qianwen خدمة ذكاء اصطناعي مستندة إلى السحابة توفر مجموعة متنوعة من قدرات الذكاء الاصطناعي، بما في ذلك معالجة اللغة الطبيعية ورؤية الكمبيوتر وتعلم الآلة.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

التثبيت

npm i @sumor/llm-connector --save

الشروط المسبقة

إصدار Node.JS

يتطلب إصدار Node.JS الإصدار 18.x أو أعلى

يتطلب إصدار Node.JS ES module

نظرًا لأن هذه الحزمة مكتوبة بتنسيق ES module، يرجى تغيير الرمز التالي في ملف package.json الخاص بك:

{
  "type": "module"
}

الاستخدام

الدردشة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // أو 'qianWen'
  key: '123'
})

const response = await model.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'أنت مساعد مفيد.'
  },
  {
    role: 'user',
    content: 'مرحبًا'
  }
])

console.log(response)
// الناتج: { role: 'مساعد', content: 'مرحبًا، كيف يمكنني مساعدتك اليوم؟' }

عنوان URL مخصص لواجهة برمجة التطبيقات

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI',
  key: '123',
  endpoint: 'https://api.openai.com',
  chat: '/v1/chat'
})