本發(fā)明涉及芯片技術(shù)領(lǐng)域，公開了一種分區(qū)單元、分區(qū)、芯片、片上網(wǎng)絡(luò)實現(xiàn)方法及介質(zhì)。該分區(qū)單元包括：通過二級緩存獲取內(nèi)存訪問請求對應(yīng)的操作類型和訪問地址，并在操作類型為部分寫操作時，將內(nèi)存訪問請求轉(zhuǎn)發(fā)到訪問地址對應(yīng)的目錄的控制模塊；通過控制...

本發(fā)明實施例公開了一種多處理器板卡間的全對全通信方法、設(shè)備、介質(zhì)及產(chǎn)品。獲取多處理器板卡間ALL?to?ALL通信時的輸入切分表、輸出切分表及輸入數(shù)據(jù)；輸出切分表為空時同時啟動均勻ALL?to?ALL和非均勻ALL?to?ALL通信；均...

本發(fā)明公開了一種模型量化方法、設(shè)備、介質(zhì)及程序產(chǎn)品，涉及大模型領(lǐng)域。模型量化方法，包括：對當(dāng)前模型線性層的線性層權(quán)重進(jìn)行通道靜態(tài)量化以及分組非對稱量化，得到2?bit線性層量化權(quán)重；確定激活數(shù)據(jù)張量量化值；根據(jù)2?bit線性層量化權(quán)重、...

本發(fā)明涉及人工智能技術(shù)領(lǐng)域，公開了一種任務(wù)調(diào)度方法、設(shè)備、介質(zhì)及程序產(chǎn)品。該方法包括：獲取全局通信拓?fù)鋱D，并根據(jù)全局通信拓?fù)鋱D對當(dāng)前推理任務(wù)進(jìn)行初次資源分配，獲取當(dāng)前推理任務(wù)對應(yīng)的目標(biāo)鏈路；基于目標(biāo)鏈路執(zhí)行當(dāng)前推理任務(wù)，并獲取當(dāng)前執(zhí)行數(shù)...

本發(fā)明公開了一種混合精度張量計算模塊、系統(tǒng)級封裝以及張量計算方法。混合精度張量計算模塊，配置在系統(tǒng)級封裝內(nèi)，包括操作數(shù)信息處理單元、動態(tài)配置信息處理單元以及數(shù)據(jù)計算單元；其中，操作數(shù)信息處理單元，用于接收并存儲系統(tǒng)級封裝發(fā)送的運算類型以...

本發(fā)明實施例公開了一種數(shù)據(jù)預(yù)取方法、裝置、電子設(shè)備及芯片。該方法包括：獲取至少一個數(shù)據(jù)預(yù)取源的預(yù)取命令，確定與預(yù)取命令對應(yīng)的數(shù)據(jù)預(yù)取當(dāng)前優(yōu)先級；在預(yù)取數(shù)據(jù)存儲器中查詢與當(dāng)前優(yōu)先級對應(yīng)的目標(biāo)存儲區(qū)域是否達(dá)到存儲上限；其中，在預(yù)取數(shù)據(jù)存儲器...

本發(fā)明公開了一種芯片隨機測試方法、裝置、設(shè)備及存儲介質(zhì)，包括：獲取待測芯片對應(yīng)的架構(gòu)描述文檔，分析待測芯片中各子模塊的特性信息以及各子模塊之間的交互關(guān)系；確定各子模塊對應(yīng)的約束條件，并根據(jù)約束條件確定各子模塊對應(yīng)的多個測試場景；在頂層驗...

本發(fā)明公開了一種用于實現(xiàn)大規(guī)模特征輸入加速的系統(tǒng)及人工智能芯片。該系統(tǒng)包括調(diào)度單元、嵌入單元以及拆分單元：調(diào)度單元用于獲取特征嵌入任務(wù)，創(chuàng)建與特征嵌入任務(wù)相對應(yīng)的任務(wù)隊列，并將特征嵌入任務(wù)發(fā)送至嵌入單元；嵌入單元用于根據(jù)特征嵌入任務(wù)，配...

本發(fā)明公開了一種神經(jīng)網(wǎng)絡(luò)片內(nèi)資源調(diào)度方法、裝置、電子設(shè)備及介質(zhì)。神經(jīng)網(wǎng)絡(luò)片內(nèi)資源調(diào)度方法，包括：基于當(dāng)前神經(jīng)網(wǎng)絡(luò)的算子執(zhí)行順序和算子張量內(nèi)存用量，繪制變化趨勢圖，并對變化趨勢圖進(jìn)行分段，得到各網(wǎng)絡(luò)片段；計算各網(wǎng)絡(luò)片段的目標(biāo)緩存批次大小；...

本發(fā)明實施例公開了一種可調(diào)系統(tǒng)的性能空間搜索方法、裝置、設(shè)備及介質(zhì)。根據(jù)關(guān)鍵參數(shù)集中各參數(shù)的取值范圍進(jìn)行初始化，得到各參數(shù)的當(dāng)前參數(shù)值和當(dāng)前參數(shù)變化趨勢；根據(jù)各參數(shù)的當(dāng)前參數(shù)值，得到可調(diào)系統(tǒng)的系統(tǒng)輸出結(jié)果；根據(jù)預(yù)設(shè)優(yōu)化策略對各參數(shù)的當(dāng)前...

本發(fā)明涉及電數(shù)字?jǐn)?shù)據(jù)處理領(lǐng)域，尤其涉及一種基于微算子的大模型跨平臺系統(tǒng)，包括硬件執(zhí)行層、硬件接入層、預(yù)編譯層、微算子層、后端層、框架層及模型層。本發(fā)明實施例可以適用于不同硬件平臺，能夠快速實現(xiàn)大模型的推理與微調(diào)，有效簡化算子開發(fā)、調(diào)試與...

本申請?zhí)峁┝艘环N內(nèi)存驗證的方法、裝置、電子設(shè)備及存儲介質(zhì)。其中，在內(nèi)存驗證的方法中，首先通過腳本語言對待驗證內(nèi)存的屬性文件進(jìn)行解析，得到待驗證內(nèi)存的屬性信息。然后基于屬性信息對預(yù)先構(gòu)建的初始驗證平臺中的私有模塊進(jìn)行修改，生成待驗證內(nèi)存對...

本發(fā)明公開了一種嵌入表的加速構(gòu)建、嵌入向量檢索方法、DSA及設(shè)備。該嵌入表的加速構(gòu)建方法包括：將N個嵌入向量中的每個嵌入向量切分為M個子向量后，將位于同一切分位置的各子向量歸集于同一子向量集合中，得到M個子向量集合；將各子向量集合中的N...

本發(fā)明提供了一種狀態(tài)機驗證方法、裝置、系統(tǒng)、存儲介質(zhì)及電子設(shè)備，應(yīng)用于芯片設(shè)計和驗證技術(shù)領(lǐng)域。該方法包括：獲得數(shù)字芯片的狀態(tài)機模型，并獲取包含多個信號組合序列的驗證集，其中，信號組合序列是通過對狀態(tài)機模型的輸入信號進(jìn)行交叉組合生成的。在...

本申請公開了一種驗證任務(wù)仲裁分發(fā)器的方法、裝置、服務(wù)器及存儲介質(zhì)。該方案中，生成測試激勵。基于測試激勵生成預(yù)測虛擬通道。將測試激勵發(fā)送至待驗證任務(wù)仲裁分發(fā)器，得到待驗證任務(wù)仲裁分發(fā)器仲裁出的目標(biāo)虛擬通道。對比目標(biāo)虛擬通道和預(yù)測虛擬通道，...

本申請公開了一種處理器架構(gòu)性能優(yōu)化方法及相關(guān)裝置、存儲介質(zhì)，包括：生成目標(biāo)處理器架構(gòu)的初始化架構(gòu)配置參數(shù)集，并對該配置參數(shù)集進(jìn)行RTL仿真，得到當(dāng)前的訓(xùn)練數(shù)據(jù)；利用當(dāng)前的訓(xùn)練數(shù)據(jù)對預(yù)測模型進(jìn)行迭代訓(xùn)練；利用啟發(fā)式算法對初始化預(yù)測架構(gòu)配置...

本發(fā)明公開了一種數(shù)據(jù)處理方法、裝置、電子設(shè)備及存儲介質(zhì)，涉及圖像處理、文本處理及語音處理等領(lǐng)域，該方法包括：根據(jù)量化數(shù)據(jù)類型、原始權(quán)重、原始偏置參數(shù)以及樣本輸入值，獲取配置參數(shù)；根據(jù)輸入值量化參數(shù)和輸入值零點參數(shù)，對當(dāng)前輸入值進(jìn)行量化處...

本申請公開了一種數(shù)據(jù)訪問方法、裝置、設(shè)備及存儲介質(zhì)。該方法包括：根據(jù)預(yù)設(shè)檢查條件，對多個用戶訪問請求中的訪問地址和訪問信息進(jìn)行訪問檢查，確定多個用戶訪問請求各自對應(yīng)的檢查結(jié)果；將多個用戶訪問請求中的用戶標(biāo)識以及對應(yīng)的檢查結(jié)果存儲至記錄表...

本申請公開了一種預(yù)處理裝置和AI芯片，涉及芯片技術(shù)領(lǐng)域。該預(yù)處理裝置包括：消息預(yù)清洗模塊、消息分類模塊、消息整形模塊和配置寄存器集合。其中，配置寄存器集合，用于設(shè)置調(diào)試消息的屬性、清洗策略、分類方式和整形操作方式；消息預(yù)清洗模塊，用于根...

本申請公開了一種硬件資源分配方法、裝置、設(shè)備以及存儲介質(zhì)。該方法包括：根據(jù)第一資源狀態(tài)管理指令確定硬件資源分配方式，并根據(jù)第二資源狀態(tài)管理指令獲取硬件資源申請信息；在確定硬件資源分配方式為通過資源選擇分配，且硬件資源選擇方式為統(tǒng)一標(biāo)準(zhǔn)選...