موصل llm

أداة Sumor Cloud.
المزيد من الوثائق

هذا هو موصل llm لمقدمي خدمات السحابة المتعددين.

مقدمو الخدمات LLM المدعومون

openAI

OpenAI هي مختبر بحث يتألف من OpenAI LP للربح و OpenAI Inc غير الهادفة للربح. تهدف الشركة إلى ضمان أن تعود الذكاء الاصطناعي العام بالفائدة على جميع البشرية.

• gpt-3.5-turbo
• gpt-4o

qianWen

آليبابا Qianwen هو خدمة ذكاء اصطناعي قائمة على السحابة توفر مجموعة من القدرات من ضمنها معالجة اللغة الطبيعية ورؤية الحاسوب وتعلم الآلة.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

التثبيت

npm i @sumor/llm-connector --save

المتطلبات الأولية

إصدار Node.JS

يتطلب إصدار Node.JS الإصدار 18.x أو أعلى.

يتطلب إصدار Node.JS ES module

نظرًا لأن هذه الحزمة مكتوبة بتنسيق ES module، يرجى تغيير الشيفرة التالية في ملف package.json الخاص بك:

{
  "type": "module"
}

الاستخدام

الدردشة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // or 'qianWen'
  key: '123'
})

const response = await model.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'أنت مساعد مفيد.'
  },
  {
    role: 'user',
    content: 'مرحبًا'
  }
])

console.log(response)
// الناتج: { role: 'assistant', content: 'مرحبًا، كيف يمكنني مساعدتك اليوم؟' }

عنوان URL مخصص لنقطة النهاية API

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI',
  key: '123',
  endpoint: 'https://api.openai.com',
  chat: '/v1/chat'
})