本公開涉及人工智能技術領域，尤其涉及一種數(shù)據(jù)處理方法及裝置，獲取到利用目標算子進行當前次處理所需存儲的至少一個第一數(shù)據(jù)塊；將第一數(shù)據(jù)塊存儲到多個組共享內存中的一個目標組共享內存中，目標組共享內存為多個組共享內存中未存儲當前次處理中需計算...

本申請?zhí)峁┝艘环N專家選擇方法、裝置、電子設備和存儲介質，涉及人工智能技術領域，其中包括：基于模型權重和混合專家模塊的輸入向量，確定各個注意力頭對各個專家查詢向量的選擇得分；對所述選擇得分進行排序，基于排序結果從各個所述專家查詢向量中選擇...

本發(fā)明涉及人工智能技術領域，提供一種算子數(shù)據(jù)的切分策略確定和切分方法、裝置、設備及介質，其中切分策略確定方法包括：查找是否存在預設切分策略；在未查找到所述預設切分策略的情況下，基于計算硬件信息和算子數(shù)據(jù)的形狀，生成多個初始切分策略；對所...

本發(fā)明提供一種模型訓練方法、裝置、電子設備及存儲介質，其中模型訓練方法包括：模型訓練端的切線空間在大語言模型進行每次前向推理的過程中，對每次前向推理過程中的中間推理結果進行梯度迭代，各中間推理結果均由模型推理端的主要空間提供；基于各梯度...

本發(fā)明提供一種模型推理方法及裝置，方法包括：對至少一個第一注意力頭中的鍵向量進行位置編碼后，基于位置編碼后的查詢向量、位置編碼后的鍵向量以及值向量確定第一注意力計算結果；基于其余注意力頭的鍵向量、值向量以及位置編碼后的查詢向量，確定其余...

本申請實施例提供了一種寄存器資源分配方法、設備、存儲介質及程序產品，涉及人工智能技術領域，該方法包括：將總寄存器資源劃分為多種類型的寄存器緩沖區(qū)。基于融合算子在每個計算場景下對應的算子組合，確定為融合算子分配的多種類型的寄存器緩沖區(qū)各自...

本發(fā)明提供一種時間同步方法、裝置、設備及介質，該方法包括：獲取第一設備的時間戳；基于所述第一設備與第二設備之間的時間轉換關系，對所述第一設備的時間戳進行時間轉換，得到所述第一設備在所述第二設備的時間體系的同步時間戳；所述時間轉換關系是對...

本申請公開了一種基于解碼結構的大模型的推理方法和裝置，包括：在進行所述大模型的當前次推理前，在輸出列表中除去最后一個輸出之外，查詢與最后一個輸出相同的第一輸出，若存在第一輸出，則將第一輸出開始的N個輸出組成輸入序列，用于進行所述大模型的...

本發(fā)明提供一種數(shù)據(jù)讀入、數(shù)據(jù)讀出方法、電子設備、存儲介質和程序產品，所述數(shù)據(jù)讀入方法包括：確定至少兩個輸入；將各輸入中的輸入數(shù)據(jù)元素以交替方式加載到同一片上存儲區(qū)，并從同一片上存儲區(qū)上同時讀入多個輸入數(shù)據(jù)元素。本發(fā)明將各輸入中的輸入數(shù)據(jù)...

本發(fā)明涉及數(shù)字集成電路技術領域，提供主頻率時鐘的輸出電路和輸出方法，輸出電路包括兩個鎖相環(huán)模塊、目標選擇器和控制模塊；控制模塊控制目標選擇器輸出第一鎖相環(huán)模塊的第一時鐘信號或第二鎖相環(huán)模塊的第二時鐘信號作為主頻率時鐘；在當前主頻率時鐘由...

本發(fā)明涉及人工智能技術領域，提供一種張量處理方法、裝置、電子設備、存儲介質和程序產品，其中方法包括：獲取原始張量；基于第一維度轉換算子，將原始張量中待折疊的目標子維度折疊到第一維度上，得到目標張量；其中，目標張量的第一維度包括原始第一維...

本技術提供一種封裝結構，包括：封裝基板，包括接地層，且具有在垂直于其主表面的方向上相對的第一側和第二側；芯片組件，設置于所述封裝基板的所述第一側，且與所述封裝基板電連接；以及加強組件，包括第一加強構件和第二加強構件，所述第一加強構件設置...

一種圖像縮放方法、圖像縮放裝置、電子設備和計算機可讀存儲介質。該圖像縮放方法包括：獲取縮放系數(shù)；基于縮放系數(shù)，確定輸出圖像的每個數(shù)據(jù)行對應的輸入圖像中的目標行號，并確定輸出圖像的每個數(shù)據(jù)列對應的輸入圖像中的目標列號，以得到輸出圖像的多個...

本發(fā)明涉及計算機技術領域，提供一種數(shù)據(jù)寫入方法、裝置、電子設備和存儲介質，其中方法包括：將數(shù)據(jù)包發(fā)送至響應端，以使所述響應端對所述數(shù)據(jù)包進行解析，并獲得待寫入數(shù)據(jù)和響應端內存地址；接收所述響應端返回的確認消息，并基于所述確認消息確定數(shù)據(jù)...

本申請?zhí)峁┮环N模型推理方法、裝置、電子設備和存儲介質，涉及人工智能技術領域，包括：在模型推理的預填充階段，基于第一量化方式對上一層輸出的激活和當前層的權重進行計算；在模型推理的解碼階段，基于第二量化方式對上一層輸出的激活和當前層的權重進...

本申請?zhí)峁┮环N基于混合專家的模型推理方法和裝置，涉及人工智能技術領域，包括：將特征向量輸入注意力混合專家模塊，由所述注意力混合專家模塊將所述特征向量分解為多個特征子向量，并基于各個特征子向量確定對應的查詢向量投影矩陣進行注意力計算，得到...

本申請涉及用于調度失敗診斷的方法和裝置。基于本申請，k8s調度組件可以產生調度日志，并且，調度日志中可以記錄被篩除的多個棄用節(jié)點、以及導致每個棄用節(jié)點被篩除的篩除執(zhí)行事件。當發(fā)生調度失敗時，可以基于調度日志分析多個棄用節(jié)點中的參考節(jié)點的...

本發(fā)明涉及芯片設計及驗證技術領域，提供一種實現(xiàn)多機多卡的仿真平臺，包括：至少兩個仿真裝置，每個仿真裝置包括操作系統(tǒng)層、測試層和硬件層；在每個仿真裝置中，操作系統(tǒng)層連接測試層，測試層連接硬件層；每個仿真裝置之間通過操作系統(tǒng)層連接；每個仿真...

本公開提供一種人工智能處理裝置以及其卷積運算方法。卷積運算方法包括：加載多個輸入數(shù)據(jù)至第一存儲器區(qū)塊；加載多個梯度數(shù)據(jù)至第二存儲器區(qū)塊；提供張量核，對多個輸入數(shù)據(jù)與多個梯度數(shù)據(jù)執(zhí)行矩陣乘加運算以獲得矩陣形式的運算結果，使運算結果儲存在至...

本公開的實施例提供了一種數(shù)據(jù)處理方法、裝置、設備和計算機可讀存儲介質。本公開的實施例所提供的方法針對深度可分離二維卷積算子的反向傳播計算進行性能優(yōu)化，通過每次將輸出張量的部分數(shù)據(jù)從片外存儲器預先加載到組共享內存中，并將權重矩陣的數(shù)據(jù)從片...