本申請提供一種芯片測試用例生成方法、裝置、電子設備和存儲介質，涉及集成電路技術領域，包括：獲取用例配置解析腳本和測試用例配置文本；基于用例配置解析腳本對測試用例配置文本進行解析，確定測試用例的參數配置信息；基于參數配置信息，生成測試用例...

本發明實施方式公開了中斷信息的處理方法、裝置、系統、設備、介質和產品。方法包括：接收第一中斷信息，所述第一中斷信息包含所述第一中斷信息的優先級及所述第一中斷信息的目的虛擬機的標識；基于所述標識和所述優先級，在緩存中存儲所述第一中斷信息；...

本發明提供一種數據運算裝置及其算子性能提升方法。提供多個問題規模以及多個模板參數。針對各問題規模基于先驗知識排除部分模板參數。遍歷剩余模板參數獲得性能數據，以獲得訓練集。提供多個實際模型。基于各實際模型的問題規模排除部分模板參數。遍歷剩...

本發明提供一種圖像的處理方法和裝置，其中所述方法包括：根據待疊加的第一圖像和第二圖像，確定待疊加區域的大小以及待疊加區域在疊加圖像中的位置；根據待疊加區域在所述疊加圖像中的位置，確定生成所述疊加圖像的至少一個子圖像區域；調用硬件處理單元...

本申請公開了一種圖像模型的異常評估方法和裝置，包括：接收當前圖像模型對多次輸入進行處理后得到的對應的多個輸出結果；其中，所述多次輸入中包括至少兩個相同的輸入；基于所述當前圖像模型的類別，確定與所述類別對應的精度比對方式；按照確定出的精度...

本發明提供一種內存管理系統及其方法。內存管理系統包括客戶設備、內存以及系統內存管理單元。系統內存管理單元針對客戶設備所發出的虛擬地址?物理地址轉換事務進行多個安全性檢查，例如內存安全性檢查、虛擬用戶安全性檢查以及寄存器配置安全性檢查。當...

本發明涉及一種用于在線程束內生成線程隨機發射的方法、計算裝置、介質和程序產品。該方法包括：在線程束內配置線程本地寄存器，以用于維護線程束中的每個線程后繼期望執行的程序計數器，所述線程束共享一個程序計數器；響應于確定程序基本塊執行完成，選...

本申請提供一種模型訓練方法、模型推理方法和裝置，涉及人工智能技術領域，包括：基于當前步長對當前長度的輸入文本對應的鍵值緩存進行分塊；基于當前權重閾值以及所述鍵值緩存的各個分塊對模型推理結果的影響權重，對各個分塊進行篩選；對所述當前步長和...

本發明提供處理器操作方法、處理器操作裝置、電子裝置、計算機程序產品。方法包括：根據滑動窗口，從全局內存中加載至少張量的第一部分數據塊到共享內存中；在進行矩陣乘操作的過程中，根據滑動窗口，針對共享內存中要對張量的第一部分數據塊進行邊緣填充...

本發明提供一種模型推理方法、裝置、電子設備和存儲介質，其中方法包括：將輸入數據切分為多個子數據；基于模型推理中應用的第一計算節點，對多個子數據進行計算，得到每個子數據的第一計算結果；基于第一通信節點，對一個子數據的第一計算結果進行通信處...

本發明提供一種注意力機制的運行方法、設備及介質，其中方法包括：基于輸入數據，啟動注意力機制的融合算子；基于所述融合算子，對所述輸入數據依次進行查詢線性變換、鍵線性變換和值線性變換，并在進行所述值線性變換的同時，對所述查詢線性變換所得的查...

本公開的實施例提供一種數據結構轉換方法與電子裝置。該方法包括：取得第一數據結構；基于預設規則，對第一數據結構執行第一結構轉換，以確定第二數據結構；獲取硬件執行單元的線程信息，其中線程信息與多個線程的總數有關；以及基于線程信息，對第二數據...

本發明涉及人工智能領域，并且涉及一種用于構建可信執行環境的方法、計算裝置、介質和程序產品。該方法包括：在主機側，配置多個虛擬機；隔離所述多個虛擬機；以及在設備側，配置硬件隔離的GPU實例，以便與所配置的多個虛擬機中的至少一個虛擬機形成獨...

本發明涉及人工智能技術領域，提供一種模型序列化和反序列化方法、裝置、電子設備及存儲介質，其中方法包括：基于模型大小，對模型的目標文件進行切分，得到多個切分文件，目標文件為模型中文件大小超過預設閾值的文件；基于預設序列化格式，對多個切分文...

本申請提供一種片外內存數據讀寫方法、裝置和芯片，涉及集成電路技術領域，包括：確定片外內存的數據排布方式；基于所述數據排布方式，確定在所述片外內存和片內寄存器之間進行數據突發傳輸的突發長度；基于所述突發長度對所述片外內存進行分塊，并確定各...

本發明涉及一種用于傳輸數據的方法、系統、計算裝置、介質和程序產品。該方法包括：獲取主機與設備之間的交互數據，所述主機與設備配置有一個或多個物理隔離的硬件訪問通路，所述交互數據包括業務數據和其他數據；將所述交互數據中的業務數據提供至密碼引...

本申請實施例提供了一種注意力機制算子的優化方法、設備、存儲介質及程序產品，涉及人工智能技術領域，該方法包括：在模型推理過程中，采用第一量化縮放因子對第一鍵表示進行在線量化獲得第二鍵表示；以及，采用第二量化縮放因子對第一值表示進行在線量化...

本申請實施例提供了一種緩存行調度方法、設備、存儲介質及程序產品，涉及人工智能技術領域，該方法包括：調度多個線程束在第一時間窗口發出用于訪問不同緩存行的第一訪存指令，這樣，按照多個線程束各自發出的第一訪存指令的訪存地址，可控制多個線程束訪...

本公開的實施例提供了一種資源管理方法、電子設備和存儲介質。該方法包括：根據多個中間表示中每個中間表示的屬性，將多個中間表示劃分為至少一個基本塊；基于多個中間表示中每個中間表示的類型以及至少一個基本塊的邊界信息確定資源狀態信息，資源狀態信...

本發明涉及大模型推理技術領域，提供一種推理時權重更新的實現裝置及方法，該裝置包括：推理設備和權重更新設備；推理設備用于依次推理多個推理對象集合，且在推理出當前推理對象集合后，將當前推理對象集合發送至權重更新設備；權重更新設備用于基于當前...