本發明提供一種用于模型推理的空間分配方法、裝置、設備和介質，所述方法包括：確定并行任務數量；基于并行任務數量，確定模型推理的暫停位置；基于暫停位置，確定已完成模型推理的第一序列集合以及未完成模型推理的第二序列集合；釋放第一序列集合對應的...

本發明提供一種重復運算模塊的測試電路，涉及電路設計技術領域，電路包括：比較邏輯模塊和診斷模塊；比較邏輯模塊的輸入端作為測試電路的輸入端，測試電路的輸入端用于連接至少兩個重復運算模塊的輸出端，比較邏輯模塊的輸出端連接于診斷模塊的第一輸入端...

本公開的實施例涉及一種用于執行多維卷積運算的方法、設備和介質，所述方法由處理器中的計算單元執行，其特征在于，包括：對多維原始數據執行矩陣轉換，從而獲取經轉換的二維矩陣數據；對多維卷積核執行矩陣變形，從而獲取經變形二維卷積核；將所獲取的二...

本申請實施例提供了一種算子執行方法、裝置、設備及存儲介質，涉及人工智能技術領域，在該方法的算子中，第一元張量支持讀取多種布局類型的張量，第二元張量支持寫多種布局類型的張量，核函數只專注對讀取的待處理張量進行計算，獲得輸出張量，故在算子中...

本發明提供一種提升芯片良率的方法及裝置，涉及半導體技術領域，方法應用于包括M個子模塊的芯片，子模塊包括N條通信信道，芯片還包括至少一個備用模塊，備用模塊包括至少一條備用信道，M為大于2的整數，N為大于1的整數；方法包括：在判定芯片中發生...

本發明提供一種模型運算方法、裝置、電子設備和存儲介質，所述方法包括：在完成提示推理階段的模型運算后，保留緩存中的鍵向量矩陣并刪除緩存中的值向量矩陣；在進行生成推理階段的模型運算時，在張量核上基于映射矩陣以及鍵向量矩陣確定第一矩陣，在向量...

本發明提供一種模型運算方法、裝置、電子設備和存儲介質，所述方法包括：對待運算模型上各計算卡的初始激活數據進行局部規約操作，得到各計算卡的激活數據，并基于各計算卡的激活數據，確定各計算卡的局部統計數據；將任一計算卡作為第一目標計算卡，并將...

本發明提供一種模型運算方法、裝置、電子設備和存儲介質，所述方法包括：確定第一矩陣以及第二矩陣；對第二矩陣進行反量化，并將反量化后的結果存儲至緩存單元；從緩存單元讀取反量化后的結果，并基于第一矩陣和反量化后的結果進行模型運算。本發明提供的...

本公開的實施例涉及一種用于執行卷積運算的方法、設備和介質，包括：確定卷積運算的類型以及圖形處理器并行線程組數；基于所確定的卷積運算的類型和圖形處理器并行線程組數，在緩存中確定用于所確定的卷積運算的數據值和數據位數，從而確定待加載的數據；...

本發明提供一種算子運算方法、裝置、電子設備和存儲介質，所述方法包括：響應于待運算算子對應的算子操作是將最內層兩個軸進行對換，基于待運算算子對應的輸入張量和輸出張量，構造單位矩陣；在張量核上，基于輸入張量的轉置矩陣以及單位矩陣進行矩陣乘運...

本公開提供一種運算裝置以及執行點積運算的方法。運算裝置包括算數邏輯單元。算數邏輯單元接收第一輸入數據以及第二輸入數據。算數邏輯單元包括指數加法運算單元、第一指數比較單元、指數轉換單元以及第二指數比較單元。指數加法運算單元對第一輸入數據以...

本發明提供一種存儲器分組方法、裝置、電子設備及存儲介質，涉及芯片測試技術領域；其中方法包括：基于芯片中各存儲器對應的時鐘域信息、坐標信息及預設分組參數，將各存儲器劃分為M個第一存儲器組；每一個第一存儲器組中包括至少一個第一存儲器；針對每...

本發明提供一種模型訓練性能維護方法、裝置、電子設備及存儲介質，涉及人工智能技術領域，該方法包括：響應于目標模型的訓練完成指令，獲取訓練后的目標模型的多個當前性能指標；針對每個當前性能指標，基于閾值數據庫中當前性能指標對應的歷史性能指標，...

本發明提供一種大規模機器學習性能優化指導裝置、方法、設備及介質，涉及機器學習技術領域，該裝置包括：基礎任務層，用于基于預先選中的多個基礎任務組件對原始性能數據進行數據處理，得到基礎數據；高級任務層，用于對基礎數據進行統計濃縮處理，得到第...

本發明提供一種算子訪存性能的優化方法、裝置、電子設備及存儲介質，涉及芯片技術領域及人工智能技術領域；其中方法包括：將算子對應的目標數據加載至芯片中的片上緩沖器；對所述片上緩沖器中的所述目標數據執行目標操作，所述目標操作用于對所述目標數據...

本發明提供一種算子構建和運算方法、裝置、電子設備和存儲介質，構建方法包括：對第一矩陣和第二矩陣進行補零，得到補零之后的第三矩陣和第四矩陣，第三矩陣和第四矩陣的形狀與人工智能芯片的最小計算粒度相匹配；基于第三矩陣、非規則算子和第四矩陣，構...

本發明提供一種測試任務的測試方法及裝置，涉及測試技術領域，方法包括：將待測試的至少一個測試任務存儲至預先設置的任務列表中；基于CPU的算力，確定并行啟動N個線程；對于N個線程中的每一個線程，從任務列表的測試任務中讀取其的第一任務，在線程...

本發明提供一種算子實現方法、裝置、電子設備和存儲介質，其中方法包括：在目標算子的一個循環層內，加載在循環層內運算目標算子所需的輸入數據；對輸入數據執行循環層內的目標算子運算，得到循環層內的運算結果，并基于循環層對應的后處理數據，對運算結...

本發明提供一種芯片信息一致性檢查方法、裝置、電子設備及存儲介質，涉及芯片技術領域，該方法包括：獲取多種芯片數據文件；針對每種芯片數據文件，確定芯片數據文件中目標信息的目標書寫格式；目標書寫格式是對歷史的芯片數據文件進行挖掘得到的；按照目...

一種數據處理方法及處理器核，用于提高批歸一化的計算速度。該方法適用于處理器核，處理器核中包括第一計算核、第二計算核和片上高速緩存，方法包括：第一計算核對輸入數據執行卷積操作，得到卷積操作的結果；第一計算核向第二計算核發送卷積操作的結果，...