本發(fā)明涉及人工智能芯片技術(shù)領(lǐng)域，提供一種資源分配方法、源節(jié)點(diǎn)、片上網(wǎng)絡(luò)、設(shè)備及存儲(chǔ)介質(zhì)，其中方法應(yīng)用于片上網(wǎng)絡(luò)中的任一源節(jié)點(diǎn)，所述方法包括：獲取當(dāng)前周期的自身待發(fā)請求數(shù)量，并基于所述當(dāng)前周期接收到的第一反饋信號(hào)，確定所述當(dāng)前周期的下游待...

本公開涉及一種數(shù)據(jù)訪問延遲評(píng)估系統(tǒng)和方法，該系統(tǒng)包括：參數(shù)配置模塊，用于提供數(shù)據(jù)訪問延遲測試時(shí)的存儲(chǔ)器訪問參數(shù)；至少兩個(gè)數(shù)據(jù)訪問單元，耦接于參數(shù)配置模塊并通過片上網(wǎng)絡(luò)耦接于存儲(chǔ)器，用于基于存儲(chǔ)器訪問參數(shù)讀寫存儲(chǔ)器中的二維數(shù)據(jù)矩陣，其中，...

本公開的實(shí)施例提供了一種數(shù)據(jù)處理方法、數(shù)據(jù)處理裝置、電子設(shè)備和存儲(chǔ)介質(zhì)。該數(shù)據(jù)處理方法包括：接收關(guān)于輸入張量和索引張量的信號(hào)；通過通用張量操作接口，基于索引張量從輸入張量對應(yīng)的源存儲(chǔ)空間中讀取目標(biāo)數(shù)據(jù)，并將目標(biāo)數(shù)據(jù)寫入輸出張量對應(yīng)的目的...

本發(fā)明提供一種人工智能芯片及其歸約方法。人工智能芯片包括多個(gè)計(jì)算核以及歸約單元。多個(gè)計(jì)算核的每一個(gè)進(jìn)行本地歸約操作而生成本地歸約數(shù)據(jù)。歸約單元耦接至多個(gè)計(jì)算核。歸約單元對多個(gè)計(jì)算核的本地歸約數(shù)據(jù)依數(shù)值大小進(jìn)行排序。歸約單元基于排序的結(jié)果...

本公開的實(shí)施例提供了一種指令處理方法、裝置、電子設(shè)備和存儲(chǔ)介質(zhì)。該指令處理方法用于深度學(xué)習(xí)網(wǎng)絡(luò)中注意力算子的計(jì)算，包括：獲取單條目標(biāo)機(jī)器指令；對單條目標(biāo)機(jī)器指令進(jìn)行解碼，以使計(jì)算單元執(zhí)行如下操作組合：對輸入數(shù)據(jù)進(jìn)行指數(shù)計(jì)算，得到定點(diǎn)數(shù)結(jié)...

本公開提供一種基于UCIe的數(shù)據(jù)傳輸方法、存儲(chǔ)介質(zhì)及人工智能芯片。本公開的數(shù)據(jù)傳輸方法包括以下步驟：通過第一芯粒與第二芯粒進(jìn)行通信；通過第二芯粒預(yù)先采樣多個(gè)先前有效幀信號(hào)；通過第一芯粒將當(dāng)前有效幀信號(hào)和數(shù)據(jù)信號(hào)傳送至第二芯粒；通過第二芯...

本公開的實(shí)施例提供了一種數(shù)據(jù)加載方法、處理器、電子設(shè)備和存儲(chǔ)介質(zhì)。該數(shù)據(jù)加載方法包括：獲取待處理張量的填充信息、待處理張量的形狀信息以及待處理張量在由原始張量確定的坐標(biāo)系中的起始坐標(biāo)，其中，填充信息用于指示在待處理張量的指定邊緣進(jìn)行填充...

本申請實(shí)施例提供了一種算子測試方法、設(shè)備及存儲(chǔ)介質(zhì)，涉及人工智能芯片技術(shù)領(lǐng)域，該方法包括：在人工智能芯片中為算子測試分配目標(biāo)顯存空間，并在目標(biāo)顯存空間中填充臟數(shù)據(jù)，以模擬人工智能芯片實(shí)際運(yùn)行時(shí)顯存的殘留數(shù)據(jù)狀態(tài)；接著，將測試數(shù)據(jù)拷貝到目...

一種數(shù)據(jù)讀寫方法、處理器、電子設(shè)備及存儲(chǔ)介質(zhì)。該數(shù)據(jù)讀寫方法用于M個(gè)計(jì)算單元從內(nèi)存中讀寫目標(biāo)張量，目標(biāo)張量的數(shù)據(jù)按照目標(biāo)張量的第一方向以第一粒度交錯(cuò)排布在內(nèi)存中，M個(gè)計(jì)算單元的任務(wù)劃分沿目標(biāo)張量的第二方向，該方法包括：將目標(biāo)張量按照第一...

本申請實(shí)施例提供了一種張量加載存儲(chǔ)方法、設(shè)備及存儲(chǔ)介質(zhì)，涉及人工智能芯片技術(shù)領(lǐng)域，該方法包括：基于預(yù)先封裝的基本處理單元，將加載存儲(chǔ)目標(biāo)張量的過程，拆分為多個(gè)子張量各自對應(yīng)的子加載存儲(chǔ)過程；基本處理單元的第一內(nèi)存數(shù)據(jù)布局與人工智能芯片的...

本發(fā)明涉及人工智能技術(shù)領(lǐng)域，提供一種注意力計(jì)算優(yōu)化方法、電子設(shè)備、存儲(chǔ)介質(zhì)和程序產(chǎn)品，其中方法包括：基于注意力計(jì)算的掩碼信息，生成注意力矩陣的邊界框列表，所述邊界框列表中包括至少一個(gè)有效邊界框，所述有效邊界框用于界定所述注意力矩陣中待執(zhí)...

本發(fā)明提供一種緩存讀寫方法、裝置和人工智能芯片，涉及芯片設(shè)計(jì)制造技術(shù)領(lǐng)域，包括：確定當(dāng)前讀寫指令在一級(jí)緩存中的數(shù)據(jù)加載方式；基于所述數(shù)據(jù)加載方式、元信息表和空閑緩存行表，確定目標(biāo)緩存行；基于所述目標(biāo)緩存行，獲取所述當(dāng)前讀寫指令對應(yīng)的數(shù)據(jù)...

本發(fā)明涉及內(nèi)存管理技術(shù)領(lǐng)域，提供一種頁表預(yù)加載方法、電子設(shè)備、存儲(chǔ)介質(zhì)和程序產(chǎn)品，其中方法包括：獲取計(jì)算內(nèi)核中的所有待加載數(shù)據(jù)；基于頁大小以及各待加載數(shù)據(jù)的形狀和數(shù)據(jù)類型，確定各待加載數(shù)據(jù)對應(yīng)的頁表預(yù)加載范圍；基于各待加載數(shù)據(jù)對應(yīng)的頁表...

本發(fā)明提供一種資源分配方法及裝置，所述方法包括：確定各指令在資源分配起點(diǎn)時(shí)所需資源大小；按照各指令所需資源大小由大到小的順序，對各指令進(jìn)行排序；按照各指令的排序，在各指令的資源分配起點(diǎn)，依次對各指令進(jìn)行資源分配。本發(fā)明提供的資源分配方法...

本申請涉及一種線程束內(nèi)規(guī)約計(jì)算的優(yōu)化方法、裝置、計(jì)算機(jī)設(shè)備和可讀存儲(chǔ)介質(zhì)。所述方法包括：針對源數(shù)據(jù)中的n列數(shù)據(jù)，生成n?1個(gè)shuffle指令；并行執(zhí)行所述n?1個(gè)shuffle指令，得到n?1個(gè)線程寄存器數(shù)據(jù)，n為大于3的整數(shù)，所述n...

本發(fā)明公開了一種卷積權(quán)重梯度計(jì)算的實(shí)現(xiàn)方法、裝置、介質(zhì)、設(shè)備及產(chǎn)品，所述方法包括：從第一存儲(chǔ)空間中獲取目標(biāo)卷積層的輸入特征圖，并將輸入特征圖轉(zhuǎn)換為輸入特征序列；獲取目標(biāo)卷積層的輸出梯度張量，并將輸出梯度張量存入第二存儲(chǔ)空間；根據(jù)每個(gè)權(quán)重...

本發(fā)明涉及測試技術(shù)領(lǐng)域，提供一種測試系統(tǒng)、測試方法、電子設(shè)備及存儲(chǔ)介質(zhì)，其中系統(tǒng)包括：虛擬機(jī)測試平臺(tái)以及測試控制模塊；測試控制模塊用于判斷虛擬機(jī)測試平臺(tái)是否滿足測試條件，在確定虛擬機(jī)測試平臺(tái)滿足測試條件的情況下，控制虛擬機(jī)測試平臺(tái)執(zhí)行針...

本申請涉及一種代碼調(diào)試監(jiān)控方法、系統(tǒng)和計(jì)算機(jī)設(shè)備。所述方法包括：基于目標(biāo)程序源代碼的抽象語法樹，構(gòu)建待監(jiān)控對象的索引結(jié)構(gòu)，所述索引結(jié)構(gòu)包括模塊、類、以及函數(shù)中的至少兩項(xiàng)；捕獲所述目標(biāo)程序在當(dāng)前運(yùn)行過程中生成的棧幀對象，在所述棧幀對象與所...

本發(fā)明提供一種基于UCIe的數(shù)據(jù)傳輸方法、人工智能芯片、介質(zhì)及電子裝置。基于UCIe的數(shù)據(jù)傳輸方法包括以下步驟：通過第一芯粒的模塊端與第二芯粒的模塊伙伴端進(jìn)行通信；當(dāng)模塊伙伴端接收到重新訓(xùn)練觸發(fā)信號(hào)時(shí)，復(fù)位模塊伙伴端的電路，并且通過模塊...

本發(fā)明提供一種中斷調(diào)試裝置、方法和人工智能芯片，涉及人工智能技術(shù)領(lǐng)域，包括：中斷產(chǎn)生單元用于檢測人工智能芯片執(zhí)行原程序過程中各個(gè)功能單元產(chǎn)生的異常行為并生成中斷請求信號(hào)；中斷傳輸鏈路用于傳輸各個(gè)中斷產(chǎn)生單元產(chǎn)生的中斷請求信號(hào)；中斷收集單...