llm-connector

أداة سومور كلاود.
مزيد من التوثيق

هذا هو موصل llm لمقدمي خدمات سحابية متعددين.

مقدمو خدمات LLM المدعومون

openAI

تعتبر OpenAI معمل بحوث يتألف من OpenAI LP الرابح و OpenAI Inc غير الربحية. تهدف الشركة إلى ضمان أن تعود الاستفادة من الذكاء الاصطناعي العام لجميع البشر.

• gpt-3.5-turbo
• gpt-4o

qianWen

Alibaba Qianwen هو خدمة ذكاء صناعي تعتمد على السحابة توفر مجموعة متنوعة من القدرات الذكية، بما في ذلك معالجة اللغة الطبيعية ورؤية الحاسوب وتعلم الآلة.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

التثبيت

npm i @sumor/llm-connector --save

الشروط المسبقة

نسخة Node.JS

تتطلب نسخة Node.JS 18.x أو أعلى

تتطلب ES Module لـ Node.JS

نظرًا لأن هذه الحزمة مكتوبة بتنسيق ES Module، يرجى تغيير الكود التالي في ملف package.json الخاص بك:

{
  "type": "module"
}

الاستخدام

المحادثة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // أو 'qianWen'
  key: '123'
})

const response = await model.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'أنت مساعد مفيد.'
  },
  {
    role: 'user',
    content: 'مرحبًا'
  }
])

console.log(response)
// الناتج: { role: 'مساعد', content: 'مرحبًا، كيف يمكنني مساعدتك اليوم؟' }

الصورة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // أو 'qianWen'
  key: '123'
})

const response = await model.image('dall-e-3', 'لوحة لمزهرية', '1024x1024')
console.log(response)
// الناتج: https://oaidalleapiprodscus.blob.core.windows.net/private/org-B7O45Q0iSubrkWb...

عنوان URL لنقطة نهاية API مخصصة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI',
  key: '123',
  endpoint: 'https://api.openai.com',
  chat: '/v1/chat',
  image: '/v1/image'
})