本公開的實施例提供了一種分配方法、分配裝置、電子設備和存儲介質。該分配方法包括：獲取多個配置組合，其中，多個配置組合中的每個配置組合包括用于第一實例的配置信息和用于第二實例的配置信息，第一實例和第二實例分別用于執行同一推理任務的預填充任...

本發明公開了一種過流保護的頻率控制方法、處理器、存儲介質及程序產品，該方法包括：根據目標工作頻率確定過流保護的各個階段的頻率值，并將過流保護的各個階段的頻率值配置到第一寄存器；當通過第二寄存器配置目標工作頻率時，將第一寄存器中的各個階段...

本申請涉及一種指令覆蓋率處理方法、裝置、設備、存儲介質和程序產品，涉及人工智能芯片技術領域。本申請能夠提高對指令覆蓋率的處理效率及準確性。方法包括：獲取運行測試用例后得到的包含已運行指令集的目標文件，針對已運行指令集中的目標指令，根據目...

本發明公開了一種用于注意力計算的任務調度方法、裝置、介質、設備及產品，所述方法包括：將查詢分塊的加載任務分解為N1個加載子任務，以及將第j個注意力分數分塊的計算任務分解為N2個計算子任務；將注意力輸出分塊對應的中間累加分塊在當前迭代輪次...

本申請公開了一種注意力機制計算方法、設備、存儲介質及產品，方法包括：對查詢矩陣分塊與鍵矩陣分塊進行矩陣乘運算，得到第一精度類型的第一乘積矩陣分塊并寫入第二寄存器組后進行指數運算，得到分子矩陣分塊；將量化后的分子矩陣分塊按照第二精度類型寫...

本發明提供一種人工智能芯片及其操作方法。AI芯片包括AI核、流控制電路、仲裁器以及高速緩存。仲裁器耦接于AI核與高速緩存之間。流控制電路耦接于AI核與仲裁器之間。流控制電路統計從高速緩存通過仲裁器至AI核的第一反饋數據路徑中反饋數據的反...

一種卷積算子優化實現方法、電子設備和存儲介質。該卷積算子優化實現方法包括：獲取卷積算子的輸入參數信息和第一硬件直接支持的硬件卷積指令的約束條件，其中，約束條件包括由第一硬件直接支持的硬件卷積指令實現卷積算子時，對硬件卷積指令的輸入參數的...

本申請實施例提供了一種張量切分方法、設備、存儲介質及程序產品，可應用于人工智能芯片技術領域，在該方法中，獲取輸入張量以及輸入張量對應的目標切分類型，從任務算子對應的多個核函數中，選取與目標切分類型匹配的目標核函數，多個核函數對應多種切分...

本申請涉及一種數據訪存方法、裝置、設備及存儲介質。應用于數據處理領域。所述方法包括：確定對待處理數據進行移位操作的循環偏移量和移位方向；所述待處理數據為一種有序的集合數據；在所述移位方向上，按照每次讀取多個序列數據的方式讀取所述待處理數...

本申請公開了一種注意力機制計算方法、設備、介質及產品，方法包括：控制第二線程束組加載第i個查詢矩陣分塊；控制所述第二線程束組利用第i個查詢矩陣分塊與轉置后的第j個鍵矩陣分塊進行矩陣乘運算和指數運算，得到第j個注意力分數矩陣分塊；控制第一...

本申請提供一種通用計算單元驗證方法、裝置、電子設備和存儲介質，涉及芯片設計驗證技術領域，包括：實例化至少一個算子配置激勵；生成各個算子配置激勵對應的執行激勵和描述激勵；基于執行激勵生成驅動通用計算單元接口的請求接口激勵，以及基于描述激勵...

本發明涉及人工智能領域，提供一種算子計算方法、電子設備和存儲介質，其中方法包括：將原始數據劃分為多個片段，并將多個片段分配至不同線程束；并行控制每個線程束計算所分配片段的片段最大值以及基于片段最大值確定的第一指數和；基于每個片段的片段最...

本發明涉及芯片驗證技術領域，提供一種高速緩存性能驗證方法、電子設備和存儲介質，其中方法包括：確定高速緩存的測試用例，測試用例包括與高速緩存的數據通道的性能數據對應的閾值，數據通道與測試用例的訪問操作對應，性能數據的類型與測試用例的訪問操...

本發明提供一種人工智能芯片及其數據傳輸方法。人工智能芯片包括L2緩存、數據裝配器以及計算核。數據裝配器耦接于計算核以及L2緩存之間。計算核發出多個數據請求。一般而言，多個數據請求的目標數據元素的地址為離散，且每次數據請求的數據量小于一個...

本申請涉及一種數據處理方法、裝置、計算機設備、存儲介質和程序產品，涉及人工智能芯片技術領域。本申請能夠在減少芯片的硬件設計負擔的同時降低芯片的數據讀取帶寬壓力。方法包括：獲取控制指令，該控制指令用于指示芯片中鏈式連接的各計算單元各自所需...

本發明公開了一種流水線中的數據處理方法、裝置、介質、設備及產品，所述方法包括：根據當前流水線的流水線標識和階段標識，獲取當前流水線中待處理數據階段執行前的屏障標識；將當前流水線的屏障標識關聯的完成信號計數與預期信號數量進行比對，并在完成...

本申請涉及一種規約計算的優化方法、裝置、計算機設備、計算機可讀存儲介質和計算機程序產品。所述方法包括：通過對目標寄存器進行地址映射處理，確定目標寄存器中各線程對應的內存映射地址，并根據規約計算的操作類型確定目標初始化值，然后將各線程對應...

本發明涉及資源管理技術領域，提供一種資源管理方法、系統、電子設備和存儲介質，其中方法包括：獲取集群中計算設備的狀態指標和主機的狀態指標；基于所述計算設備的狀態指標和所述主機的狀態指標，通過預設的設備故障預測模型，確定所述計算設備的預測故...

本發明涉及人工智能技術領域，提供一種融合算子執行方法、電子設備、存儲介質和程序產品，所述方法包括：確定多個待融合的目標算子；根據多個目標算子的張量，生成偽地址映射表，偽地址映射表用于記錄張量的實際內存地址與偽地址之間的映射關系；對多個目...

本申請提供一種芯片驗證方法、裝置、電子設備和存儲介質，涉及芯片設計驗證技術領域，包括：同步運行待驗證芯片設計和芯片驗證模型執行預設緩存行處理方法；分別獲取待驗證芯片設計的第一輸出信號和第一額外信息，以及芯片驗證模型的第二輸出信號和第二額...