原以為去年年底ChatGPT已經(jīng)火過(guò)一陣子了，慢慢熱度會(huì)降下來(lái)。出乎意料的是，其熱度有增無(wú)減。我也是從去年年底一直關(guān)注并使用，包括ChatGPT網(wǎng)頁(yè)版、GPT3 API以及ChatGPT內(nèi)測(cè)API，還包括其他國(guó)內(nèi)外一些人工智能算法的體驗(yàn)。

CHATGPT是由OpenAI新推出的一種人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具，允許您與聊天機(jī)器人進(jìn)行類似人類的對(duì)話和更多內(nèi)容，它不僅能對(duì)話、寫作還能編程。例如，這一語(yǔ)言模型可以回答追問(wèn)、連續(xù)性的問(wèn)題，幫助您完成諸如撰寫電子郵件、文案和代碼等任務(wù)

OpenAI官方稱，CHATGPT是在人類的幫助下創(chuàng)建并訓(xùn)練的，基于GPT-3.5技術(shù)模型的聊天機(jī)器人，人類訓(xùn)練師對(duì)該AI早期版本回答查詢的方式進(jìn)行排名和評(píng)級(jí)。然后，這些信息被反饋到系統(tǒng)中，系統(tǒng)會(huì)根據(jù)訓(xùn)練師的偏好來(lái)調(diào)整答案——這是一種訓(xùn)練人工智能的標(biāo)準(zhǔn)方法，被稱為強(qiáng)化學(xué)習(xí)。

為了方便使用，我抽空開發(fā)了一個(gè)簡(jiǎn)易的程序來(lái)封裝這些AI接口。隨著ChatGPT熱度增加，今天上午果然服務(wù)器崩掉了。為了搶修服務(wù)器，我不得不進(jìn)行關(guān)機(jī)、重啟、更改配置等操作。在整個(gè)過(guò)程中，用戶完全無(wú)法和AI進(jìn)行交互。這顯然是不科學(xué)的，只是自己太業(yè)余了。

解決這個(gè)服務(wù)器問(wèn)題自然聯(lián)想到分布式。我的初步想法如下圖所示，使用一臺(tái)服務(wù)器來(lái)做數(shù)據(jù)交換和基本業(yè)務(wù)邏輯，另外同時(shí)使用多個(gè)子服務(wù)器節(jié)點(diǎn)來(lái)完成AI接口任務(wù)。當(dāng)然，這些AI接口可以不局限于ChatGPT。

1、部署特點(diǎn)

經(jīng)過(guò)一整天趕工，我搭建了上述一整套系統(tǒng)，包括一個(gè)主服務(wù)器和多個(gè)子節(jié)點(diǎn)服務(wù)器。部署效果主要有以下幾個(gè)特點(diǎn)。

各個(gè)子節(jié)點(diǎn)服務(wù)器是可以熱插拔的，接入即可使用。

子節(jié)點(diǎn)服務(wù)器數(shù)量可以根據(jù)業(yè)務(wù)或用戶規(guī)模隨時(shí)進(jìn)行刪減。

部分節(jié)點(diǎn)功能異常影響RdChat主程序功能。

對(duì)于子節(jié)點(diǎn)功能，可以進(jìn)行不停機(jī)更新。

緩解了單臺(tái)主機(jī)性能壓力。

2 部署效果

經(jīng)過(guò)分布式部署的ChatGPT應(yīng)用更加穩(wěn)定，升級(jí)更加靈活。

ChatGPT服務(wù)器租用請(qǐng)咨詢755800客服！

海外服務(wù)器免費(fèi)測(cè)試：http://hbjsdrq.com/