本申請涉及一種基于分頁注意力的注意力計算方法、裝置及設備。所述方法包括：按照使共用同一個組共享內存的各個算數邏輯單元所需調用的索引參數相同的規則，向各個算數邏輯單元分配注意力計算任務；所述索引參數包括序列起始位置和記錄邏輯塊與物理塊映射...

本發明涉及人工智能技術領域，本發明提供一種數據處理方法、裝置、設備及介質，該數據處理方法包括：基于目標數據對應的嵌入張量，確定目標數據對應的注意力全量序列；基于注意力優化規則，對注意力全量序列進行注意力優化處理，得到目標數據的全局語義信...

本發明提供一種矩陣乘算子的運算方法、裝置、圖形處理器和存儲介質，涉及人工智能技術領域，所述方法包括：讀取高帶寬內存中的兩個運算矩陣；基于兩個運算矩陣，確定輸入通用矩陣主緩存GMB中的第一目標輸入矩陣，并將另一個運算矩陣確定為第二目標輸入...

本申請公開一種二維數據計算方法、芯片及電子設備，該方法適用于具有多個計算單元的芯片，計算單元包括張量計算核，其中方法包括：獲取待計算的二維數據以及輔助矩陣，輔助矩陣為依據二維數據的計算模式構建的，通過張量計算核對二維數據及輔助矩陣進行矩...

本申請涉及一種算子調度方法、裝置、設備、可讀存儲介質和程序產品。所述方法包括：在識別到待處理算子時，獲取與待處理算子對應的計算任務的配置信息；基于統一注冊信息中的第一關鍵信息確定與配置信息匹配的計算實現單元集合；第一關鍵信息用于表征計算...

本發明公開了一種用于矩陣乘法核函數中的數據處理方法、裝置、介質、設備及產品，所述方法包括：對主循環階段輸出結果中的每個輸出分塊，分別配置對應的就緒狀態標識；其中，每個就緒狀態標識由執行對應輸出分塊相關計算任務的子工作組觸發更新；在第n個...

本申請實施例提供了一種計算機設備及人工智能芯片，涉及人工智能芯片技術領域，該計算機設備包括：N個人工智能芯片；每個人工智能芯片通過N個外連通信鏈路與其他N/2個人工智能芯片連接，N為大于1的偶數；人工智能芯片包括：主裸片和從裸片，主裸片...

本技術公開了一種服務器和服務器系統，該服務器包括處理器節點、光模塊、重定時器和控制模塊；所述處理器節點的第一互聯信號傳輸端與所述重定時器的第二互聯信號傳輸端連接，所述重定時器的第三互聯信號傳輸端與所述光模塊的第四互聯信號傳輸端連接，所述...

本申請公開一種數據傳輸方法、裝置、存儲介質、程序產品及計算機設備，涉及人工智能芯片技術領域，該方法包括：接收當前請求；將所述當前請求添加到待發送請求隊列；在滿足預設發送條件時，根據所述待發送請求隊列中的所有請求生成目標請求，并將所述目標...

本發明提供一種復數域數據處理方法與人工智能芯片。所述方法包括：取得多個復數域數據；由人工智能芯片的向量計算核心，從多個復數域數據中提取實部數據與虛部數據，并將實部數據與虛部數據分類存儲于人工智能芯片的共享內存中；以及由人工智能芯片的張量...

本發明提供一種矩陣數據處理方法與人工智能芯片。所述方法包括：取得第一矩陣數據，其中第一矩陣數據的數據格式符合第一精度標準；由人工智能芯片的向量計算核心對第一矩陣數據執行基于精度位的數據拆分，以取得第二矩陣數據，其中第二矩陣數據的數據格式...