本發(fā)明涉及大模型算力調(diào)度,具體為一種應(yīng)用于大模型場(chǎng)景的多目錄調(diào)度底層核心架構(gòu)。
背景技術(shù):
1、
2、現(xiàn)有大模型多目錄調(diào)度體系缺少通用化底層核心架構(gòu),調(diào)度過(guò)程易出現(xiàn)目錄訪問(wèn)死鎖、指令執(zhí)行異常等問(wèn)題,無(wú)法為大模型多目錄調(diào)度提供穩(wěn)定通用的底層支撐。
技術(shù)實(shí)現(xiàn)思路
1、
2、本發(fā)明提供一種大模型多目錄調(diào)度底層核心架構(gòu),通過(guò)核心基礎(chǔ)調(diào)度組件配合基礎(chǔ)運(yùn)行保障機(jī)制,構(gòu)建通用化、穩(wěn)定化的大模型多目錄調(diào)度底層支撐架構(gòu),適配各類(lèi)大模型多目錄調(diào)度基礎(chǔ)運(yùn)行需求。
1.一種大模型多目錄調(diào)度底層核心架構(gòu),其特征在于,包括多目錄存儲(chǔ)模塊、調(diào)度控制模塊、路由尋址模塊、目錄互鎖模塊、調(diào)度執(zhí)行模塊;
2.根據(jù)權(quán)利要求1所述的架構(gòu),其特征在于,還包括目錄數(shù)據(jù)校驗(yàn)?zāi)K,用于對(duì)多目錄存儲(chǔ)模塊內(nèi)的目錄數(shù)據(jù)進(jìn)行合法性校驗(yàn)。
3.根據(jù)權(quán)利要求1所述的架構(gòu),其特征在于,還包括目錄狀態(tài)感知模塊,用于實(shí)時(shí)監(jiān)測(cè)多目錄存儲(chǔ)模塊中各目錄的工作狀態(tài)。
4.根據(jù)權(quán)利要求1所述的架構(gòu),其特征在于,還包括時(shí)序同步模塊,用于實(shí)現(xiàn)多目錄調(diào)度的時(shí)序?qū)R。
5.根據(jù)權(quán)利要求1所述的架構(gòu),其特征在于,所述調(diào)度控制模塊內(nèi)置指令緩存單元,用于暫存連續(xù)調(diào)度指令。
6.根據(jù)權(quán)利要求1所述的架構(gòu),其特征在于,所述多目錄存儲(chǔ)模塊采用獨(dú)立物理分區(qū)結(jié)構(gòu)。
7.根據(jù)權(quán)利要求1所述的架構(gòu),其特征在于,各模塊之間采用總線通信連接。