本發明公開了一種測試用例列表的生成方法、裝置、設備及介質。測試用例列表的生成方法，包括獲取測試用例模板關聯數據以及異構集成電路組件IP配置文件；解析異構IP配置文件，得到異構IP依賴關系文件；基于測試用例模板關聯數據以及異構IP依賴關系...

本發明公開了一種基于改進的大語言模型推理運行框架的數據處理方法。通過獲取待處理的數據，并對改進的大語言模型推理運行框架對應的目標大語言模型進行加載處理；改進的大語言模型推理運行框架進行數據處理包括一次預填充階段和多次生成階段；在預填充階...

本發明涉及計算機技術領域，公開了一種大模型推理方法、設備、存儲介質及程序產品。該方法包括：獲取批量推理請求，并采用混合調度策略對批量推理請求進行任務調度，獲取多個計算任務和對應的調度順序；獲取各計算任務對應的輸入張量及形狀、大模型權重張...

本發明公開了一種大語言模型模塊化推理計算系統、方法、裝置及介質。通過對大語言模型模塊化推理計算系統中的文本嵌入模塊、多簇注意力模塊、多層感知機模塊和線性映射模塊分別進行不同單元的配置，來實現對輸入文本令牌序列的生成詞令牌的計算，另外的，...

本發明公開了一種大語言模型推理的動態批處理方法、裝置、設備及介質。通過獲取當前大語言模型對應的任務請求隊列；獲取用戶選擇動態批處理信息；根據預填充階段任務不進行批處理或者預填充階段任務進行批處理，對各當前請求任務分別進行預填充處理，得到...

本發明公開了一種數據處理系統、方法、裝置及存儲介質，涉及芯片技術領域，該數據處理系統包括：指令發射單元、算術邏輯單元和內存單元；算術邏輯單元與匹配的內存單元之間的距離，小于算術邏輯單元與指令發射單元之間的距離；指令發射單元，用于將數據處...

本發明公開了基于哈希表的多層嵌入表更新方法、裝置、設備及介質。該方法包括：接收當前用戶基于目標應用發送的包含當前訪問信息的當前請求指令；基于預先存儲的全局映射表確定當前訪問信息對應的基礎地址，并基于基礎地址確定當前訪問信息對應的目標嵌入...

本發明實施例公開了一種混合專家模型推理加速方法、裝置、設備、介質及程序，其中，方法包括：加載混合專家模型的目標關聯參數；其中，所述目標關聯參數包括所述混合專家模型的非專家網絡參數和專家網絡基準向量；根據所述混合專家模型的當前運行網絡層的...

本發明公開了一種嵌入表模型訓練方法、裝置、設備及存儲介質，包括：加速卡接收客戶端發送的多個可變長消息，對多個可變長消息依次進行解析得到每個可變長消息對應的消息頭與消息體；將每個可變長消息對應的消息頭依次存放至預設的環形緩存區中，并將每個...

本發明實施例公開了一種模型量化方法、裝置、電子設備、存儲介質及程序產品，方法包括：根據待量化模型的模型拓撲結構獲取待量化模型的待分類算子；對待分類算子按照第一算子分類規則進行分類，得到第一分類算子；對第一分類算子進行量化處理，得到第一分...

本發明公開了一種回流爐鍵合結構、回流焊鍵合方案的確定方法及回流爐。該回流爐鍵合結構設置于爐腔內的冷卻溫區；回流爐鍵合結構包括：在垂直于爐腔長度的豎直方向上相對設置的上鍵合結構和下鍵合結構；按照預設真空度，上鍵合結構與第一鍵合件貼合并吸附...

本發明實施例公開了一種變長編碼裝置及方法。該變長編碼裝置包括編碼模塊、第一緩存模塊、第二緩存模塊、地址計算模塊以及拼接模塊；編碼模塊用于對并行輸入的多個待編碼數據進行變長編碼，獲得多個碼字和每個碼字對應的碼長；第一緩存模塊用于對每一碼字...

本發明實施例公開了一種處理器模擬器中的指令處理方法、裝置、設備及介質。該方法包括：獲取預設格式的指令包，并識別指令包中各條指令描述的處理階段；根據指令包中各條指令描述的排列順序、以及與硬件執行順序匹配的預設流水線階段順序，將各處理階段重...

本發明實施例公開了一種壓縮與解壓模塊的驗證架構、驗證方法及電子設備。該驗證架構包括：驗證模式選擇器，用于展示各驗證模式，并確定當前驗證模式及對應的待驗設備；驗證場景配置器，用于展示各場景類型，并確定當前驗證模式的當前場景信息；激勵生成器...

本發明公開了一種片內互聯系統及片內通信方法，涉及芯片技術領域，該片內互聯系統包括：兩個接口通信組件以及中間傳輸組件；一個接口通信組件連接片內模塊，另一個接口通信組件連接其它片內模塊或者其它片內互聯系統；接口通信組件分別通過時鐘域轉換模塊...

本發明公開了一種轉換后備緩沖器驗證方法、裝置、設備及存儲介質，包括：向TLB預測器輸入與待測TLB相同的操作請求；操作請求包括數據讀寫請求、無效操作請求以及頁表或目錄；TLB預測器中集成了多種不同類型TLB對應的功能模型；接收TLB預測...

本發明公開了一種用于實現特征交叉計算的系統及人工智能芯片。該系統包括任務拆解單元、稀疏任務處理單元和智能處理器組，其中：任務拆解單元，用于獲取特征交叉任務，并在特征交叉任務中拆解出至少一個稀疏任務，并將各稀疏任務發送至稀疏任務處理單元；...

本發明實施例公開了一種多源仲裁器輪詢方法、多源仲裁器、芯片及輪詢裝置，包括：將多源仲裁器的數據源區域劃分為多個資源區域；數據源的源信息包括：數據源標識、數據源請求標識及仲裁減數；計算各資源區域中，數據源請求標識的區域值與仲裁減數的區域值...

本發明實施例公開了一種張量處理器的模擬器架構、模擬方法、設備及介質。該模擬器架構中，程序裝載器用于提取所讀取硬件可執行程序中的代碼關鍵信息；模擬存儲器用于對代碼關鍵信息進行存儲；模擬寄存器用于在模擬存儲器中確定目標代碼關鍵信息；指令描述...

本發明公開了一種數據處理方法、裝置、電子設備及存儲介質，涉及人工智能芯片領域，該方法包括：響應于獲取到待壓縮的第一數據，獲取第一數據的第一操作數據和第一透傳數據；其中，第一透傳數據為空值或者非空值；若確定動態字典中存在與第一操作數據匹配...