llm-connector

أداة Sumor Cloud.
مزيد من التوثيق

هذا هو موصل llm لمقدمي خدمات سحابية متعددين.

مقدمين LLM المدعومين

openAI

تعد OpenAI معمل أبحاث يتألف من OpenAI LP ذات الهدف الربحي وOpenAI Inc. ذات الهدف غير الربحي. تهدف الشركة إلى ضمان أن الذكاء الاصطناعي العام يعود بالفائدة على جميع البشرية.

• gpt-3.5-turbo
• gpt-4o

qianWen

يُعتبر Alibaba Qianwen خدمة AI قائمة على السحابة توفر مجموعة من القدرات في مجال الذكاء الاصطناعي، بما في ذلك معالجة اللغة الطبيعية، ورؤية الحاسوب، وتعلم الآلة.

• qwen-turbo
• qwen-plus
• qwen-max
• qwen-max-longcontext

التثبيت

npm i @sumor/llm-connector --save

متطلبات تشغيل البرنامج

إصدار Node.JS

يتطلب إصدار Node.JS 18.x أو أعلى

تتطلب Node.JS ES module

نظرًا لأن هذه الحزمة مكتوبة بتنسيق ES module، يرجى تغيير الكود التالي في ملف package.json الخاص بك:

{
  "type": "module"
}

الاستخدام

الدردشة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // or 'qianWen'
  key: '123'
})

const response = await model.chat('gpt-3.5-turbo', [
  {
    role: 'system',
    content: 'أنت مساعد مفيد.'
  },
  {
    role: 'user',
    content: 'مرحبًا'
  }
])

console.log(response)
// الناتج: { role: 'assistant', content: 'مرحبًا، كيف يمكنني مساعدتك اليوم؟' }

الصورة

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI', // or 'qianWen'
  key: '123'
})

const response = await model.image('dall-e-3', 'رسم لمزهرية وردية', '1024x1024')
console.log(response)
// الناتج: https://oaidalleapiprodscus.blob.core.windows.net/private/org-B7O45Q0iSubrkWb...

عنوان URL المخصص لواجهة برمجة التطبيقات

import Model from '@sumor/llm-connector'

const model = new Model({
  type: 'openAI',
  key: '123',
  endpoint: 'https://api.openai.com',
  chat: '/v1/chat',
  image: '/v1/image'
})