本發明提供一種多模態大模型的訓練過程自適應優化方法及系統，其中所述方法包括：接收提交的多模態大模型的訓練執行腳本以及訓練策略；根據訓練執行腳本以及訓練策略，利用預存的大模型訓練腳本執行分布式訓練任務，以生成多模態大模型；獲取在執行分布式...

本申請提供了一種算子執行方法、設備、存儲介質及程序產品，涉及人工智能技術領域，在該方法中，在第二線程束組采用矢量算子對第n批次任務進行矢量計算時，第一線程束組采用第一矩陣算子對第n+1批次任務進行矩陣計算，同時第三線程束組采用第二矩陣算...

本申請提供了一種元數據管理組件的緩存管理方法和裝置。該方法包括：響應于當前監控周期監控到的元數據管理組件的使用緩存大于第一緩存閾值，且小于第二緩存閾值，根據當前時間對應的預設時間段，以及上一個預設時間段內元數據管理組件的使用緩存的變化量...

本發明實施方式公開了交錯式流水線并行訓練方法、裝置、設備、存儲介質和程序產品，屬于人工智能技術領域。方法包括：基于計算單元數、分塊數和大模型的總層數，確定每個分塊包含的層數，其中每個分塊包含的層數是可配置的；基于計算單元數、分塊數和大模...

本發明涉及硬件測試技術領域，提供橋接卡信號質量的測試方法、裝置、設備、介質和產品，該方法包括：建立第一硬件卡和第二硬件卡之間的PCIe鏈路；控制第一硬件卡通過PCIe鏈路向第二硬件卡發送第一測試數據，第二硬件卡接收第一測試數據并基于錯誤...

本申請涉及處理器以及用于處理器的芯粒間數據傳輸的糾偏方法。基于本申請，處理器封裝的至少兩個芯粒中的任意芯粒可以包括模擬接收電路和邏輯整理電路。其中，模擬接收電路可以采樣得到其他芯粒分別通過多條物理層通道向該芯粒并行傳輸的多個數據分片序列...

本申請實施例提供了一種計算圖優化方法、設備、存儲介質及程序產品，涉及人工智能技術領域，該方法包括：基于預設模板將編碼模塊的計算圖切分為多個計算子圖；基于人工智能芯片上的索引資源的資源量，獲得子圖合并粒度；再按照子圖合并粒度，對多個計算子...

一種數據處理方法及裝置、處理器、電子設備和存儲介質。該數據處理方法包括：執行多次第一操作以得到輸出張量；其中，每次執行第一操作時包括執行以下步驟：使用第一線程束從內存中加載多個子卷積核張量至緩存部件；使用第一線程束從內存中加載與多個子卷...

本申請提供了計算設備、數據處理方法以及計算系統。計算設備可以包括：一個或多個流處理器簇，每個流處理器簇被配置為執行計算處理以生成數據流；片上網絡電路，被配置為將所述數據流發送到對等通信電路；以及所述對等通信電路，被配置為響應于所述對等通...

本發明提供一種算子精度驗證方法、設備、服務器和介質，其中方法包括：基于模型輸入，對模型進行推理，得到模型中的每個算子在推理中的標準輸出；針對每個算子，將算子在模型中的前一個算子的標準輸出作為算子的測試輸入，獲取每個算子在測試輸入下的測試...

提供處理器資源分配的方法、裝置、設備、介質。該方法包括：獲取要編譯的程序的多個指令中的多個存儲對象的生存期，多個存儲對象中的第一存儲對象的生存期包括從第一存儲對象被第一次使用的開始指令到第一存儲對象被最后一次使用的結尾指令之間所涉及的指...

本技術提供一種軟硬結合的板卡連接組件及機箱，涉及板卡連接技術領域，板卡連接組件包括：撓性電連接板、至少兩個剛性電連接板和SLOT連接器；其中，所述至少兩個剛性電連接板設置在所述撓性電連接板上，在所述至少兩個剛性電連接板中的每一個剛性電連...

本申請提供一種模型推理方法、裝置、電子設備和存儲介質，涉及人工智能技術領域，包括：獲取輸入向量；將所述輸入向量輸入目標模型，得到所述目標模型輸出的所述輸入向量對應的模型推理結果；其中，所述目標模型包括至少一個混合專家模塊；所述混合專家模...

本申請提供了一種數字眼圖測試方法、裝置、電子設備和存儲介質。該方法包括：獲取讀寫時序的最優位置的訓練值；其中，訓練值包括相位和電壓；根據訓練值確定用于測試的相位和電壓的測試范圍；基于測試范圍內的每組相位和電壓，使用配置的測試用例分別進行...

本公開涉及一種相位插值器電路、時鐘恢復電路和芯片，該相位插值器電路主要包括：第一時鐘濾波器，用于對第一時鐘信號的高頻諧波進行濾波產生第一濾波信號；第二時鐘濾波器，用于對第二時鐘信號的高頻諧波進行濾波產生第二濾波信號；相位混合器，耦接于第...

本發明涉及人工智能技術領域，提供一種通信方法、設備、存儲介質和程序產品，其中方法包括：基于在本端人工智能芯片處安裝的通用接口，調用與本端人工智能芯片相適配的數據傳輸接口，通用接口集成有分別與各類人工智能芯片相適配的數據傳輸接口；基于與本...

本申請實施例提供了一種寄存器溢出優化方法、設備、存儲介質及程序產品，涉及芯片技術領域，該方法包括：在算子編譯過程中，對執行算子的目標線程進行寄存器分配。若執行寄存器分配的過程中出現寄存器溢出，則將溢出的虛擬寄存器寫出到片上高速緩存中目標...

本發明涉及人工智能技術領域，提供一種數據格式轉換方法、設備、介質和程序產品，其中方法包括：基于源端設備和目標端設備的數據傳輸信息，從格式檢測結果表中查找源端設備和目標端設備的數據格式檢測結果；在未查找到數據格式檢測結果的情況下，基于源端...

本發明涉及機器學習技術領域，提供一種設備通信方法、設備及介質，其中方法包括：基于多個設備之間的拓撲連接信息，確定多種第一通信策略；對各種第一通信策略分別進行通信性能評估，得到各種第一通信策略的通信性能，并基于各種第一通信策略的通信性能，...

本發明的實施例涉及一種用于評估模型訓練性能的方法、計算設備、存儲介質和計算機程序產品。該方法包括：確定模型在多個板卡上的部署策略，部署策略包括數據并行策略、張量并行策略和流水線并行策略；至少基于張量并行策略，確定算子的形狀；至少基于數據...