本公開的實(shí)施例提供了一種分配方法、電子設(shè)備和存儲(chǔ)介質(zhì)。該分配方法由編譯器執(zhí)行，包括：基于指令序列中異步指令的源操作數(shù)，確定插入異步指令對(duì)應(yīng)的等待指令中的隱式操作數(shù)；為指令序列中的指令的操作數(shù)分配物理寄存器，其中，隱式操作數(shù)對(duì)應(yīng)的物理寄存...

本申請(qǐng)實(shí)施例提供了一種基于混合專家網(wǎng)絡(luò)的張量處理方法、設(shè)備及存儲(chǔ)介質(zhì)，涉及人工智能芯片技術(shù)領(lǐng)域，該方法包括：將人工智能芯片部署的M個(gè)專家子網(wǎng)絡(luò)各自的專家子算子融合成一個(gè)融合專家算子，融合專家算子對(duì)應(yīng)一個(gè)核函數(shù)；沿目標(biāo)維度對(duì)M個(gè)專家子網(wǎng)絡(luò)...

本申請(qǐng)涉及一種寄存器資源分配方法、計(jì)算機(jī)設(shè)備、計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)和計(jì)算機(jī)程序產(chǎn)品。方法包括：通過函數(shù)間的調(diào)用關(guān)系構(gòu)建函數(shù)組，為函數(shù)組中的各協(xié)程函數(shù)分配寄存器資源并生成對(duì)應(yīng)的匯編指令；基于各協(xié)程函數(shù)的寄存器使用量，確定各設(shè)備device函...

本公開的實(shí)施例提供了一種模型訓(xùn)練方法、模型訓(xùn)練裝置、電子設(shè)備和存儲(chǔ)介質(zhì)。模型訓(xùn)練方法包括：響應(yīng)于獲取到第一模型對(duì)應(yīng)的插入層配置，根據(jù)插入層配置確定插入層信息，其中，插入層配置包括并行策略信息，插入層信息包括插入層數(shù)目、插入層類型和插入層...

本發(fā)明公開了一種注意力計(jì)算實(shí)現(xiàn)方法、裝置、介質(zhì)、設(shè)備及產(chǎn)品，所述方法包括：將當(dāng)前待計(jì)算的第i個(gè)查詢分塊從共享內(nèi)存加載至消費(fèi)者線程組的第一寄存器組，對(duì)查詢分塊和鍵分塊進(jìn)行內(nèi)部拆分計(jì)算，以獲取對(duì)應(yīng)的注意力分?jǐn)?shù)分塊；依次獲取MK個(gè)注意力分?jǐn)?shù)分...

本公開的實(shí)施例提供了一種分配方法、電子設(shè)備和存儲(chǔ)介質(zhì)。該分配方法由編譯器執(zhí)行，包括：根據(jù)第一類型指令在待編譯程序?qū)?yīng)的中間表示中的位置，對(duì)第一類型指令對(duì)應(yīng)的第二類型指令進(jìn)行分組，其中，第一類型指令和第二類型指令之間存在依賴關(guān)系；根據(jù)分組...

本公開的實(shí)施例提供了一種用于GPGPU的數(shù)據(jù)訪問方法、設(shè)備、計(jì)算機(jī)程序產(chǎn)品和存儲(chǔ)介質(zhì)。該方法通過將GPGPU的每個(gè)數(shù)據(jù)訪問單元用于執(zhí)行目標(biāo)計(jì)算任務(wù)所需的待訪問數(shù)據(jù)的虛擬地址，基于是否用于決定請(qǐng)求待訪問數(shù)據(jù)的傳輸端口，而拆分為用于選擇傳輸...

本公開提供了人工智能處理器、電子裝置以及指令處理方法。該人工智能處理器，包括：指令處理單元，其中，指令處理單元被配置為順序獲取多個(gè)指令以進(jìn)行處理；指令軌跡跟蹤裝置，包括編碼模塊，其中，編碼模塊被配置為：獲取多個(gè)指令中的第一指令的開始處理...

本公開提供了性能計(jì)數(shù)器及用于其的方法、電子裝置以及存儲(chǔ)介質(zhì)。該用于人工智能處理器的性能計(jì)數(shù)器的方法包括：接收計(jì)數(shù)周期配置信息，以配置性能計(jì)數(shù)器針對(duì)人工智能處理器的處理器核的工作模塊的事件的計(jì)數(shù)周期；基于計(jì)數(shù)周期配置用于對(duì)事件的數(shù)量進(jìn)行計(jì)...

本發(fā)明公開了一種注意力計(jì)算實(shí)現(xiàn)方法、裝置、介質(zhì)、設(shè)備及產(chǎn)品，所述方法包括：基于第一浮點(diǎn)格式的查詢分塊與第j個(gè)鍵分塊，獲得以交錯(cuò)布局的第二浮點(diǎn)格式存儲(chǔ)于第二寄存器組的第j個(gè)注意力分?jǐn)?shù)分塊；通過逐元素指數(shù)化操作，將注意力分?jǐn)?shù)分塊轉(zhuǎn)為對(duì)應(yīng)的指...

一種數(shù)據(jù)處理方法及裝置、處理器、電子設(shè)備和存儲(chǔ)介質(zhì)。該數(shù)據(jù)處理方法包括：根據(jù)正向傳播過程的填充模式，對(duì)從內(nèi)存中加載的輸出梯度矩陣進(jìn)行填充操作，得到第一梯度矩陣并緩存至處理器的緩存部件，其中，填充操作填充的填充值為0；從緩存部件中讀取第一...

本申請(qǐng)涉及一種寄存器資源分配方法、計(jì)算機(jī)設(shè)備、可讀存儲(chǔ)介質(zhì)和程序產(chǎn)品。所述方法包括：通過函數(shù)間的調(diào)用關(guān)系構(gòu)建函數(shù)組，所述函數(shù)組中包括協(xié)程核函數(shù)和至少一個(gè)協(xié)程子函數(shù)；創(chuàng)建所述函數(shù)組對(duì)應(yīng)的資源記錄表，所述資源記錄表用于記錄為所述函數(shù)組中的協(xié)...

本申請(qǐng)?zhí)峁┝艘环N指令同步方法及人工智能芯片，涉及人工智能芯片技術(shù)領(lǐng)域，該方法包括：處理核心發(fā)出計(jì)算指令之后，發(fā)出同內(nèi)存地址的屏障指令，使得計(jì)算指令和屏障指令保序進(jìn)入緩存，以確保緩存收到計(jì)算指令并實(shí)現(xiàn)計(jì)算；這樣減少了大量的內(nèi)存柵欄操作，從...

本發(fā)明提供一種緩存及其操作方法。所述緩存包括引用表以及命中?未命中檢查單元。命中?未命中檢查單元耦接至引用表。響應(yīng)于多個(gè)計(jì)算核中的一者發(fā)送替換請(qǐng)求給緩存，命中?未命中檢查單元檢查在引用表中替換請(qǐng)求的目標(biāo)緩存線所對(duì)應(yīng)的一個(gè)對(duì)應(yīng)引用位。響應(yīng)...

本公開涉及一種可信執(zhí)行環(huán)境控制電路和人工智能芯片，該電路包括：中央處理單元，位于人工智能芯片中的中央處理器，用于響應(yīng)于所接收的安全模式指令，產(chǎn)生并輸出安全模式設(shè)置信號(hào)；安全模式控制電路模塊，位于中央處理器中并耦接于中央處理單元，用于接收...

本公開涉及一種時(shí)鐘信號(hào)變頻電路、芯片和電子設(shè)備，該時(shí)鐘信號(hào)變頻電路包括：延時(shí)鏈模塊，用于獲取基準(zhǔn)時(shí)鐘信號(hào)，對(duì)基準(zhǔn)時(shí)鐘信號(hào)進(jìn)行延時(shí)以產(chǎn)生相位不同的多個(gè)同頻時(shí)鐘信號(hào)；信號(hào)提取輸出模塊，耦接于延時(shí)鏈模塊，用于接收多個(gè)同頻時(shí)鐘信號(hào)，并根據(jù)所接收...

本發(fā)明公開了一種注意力計(jì)算實(shí)現(xiàn)方法、裝置、介質(zhì)、設(shè)備及產(chǎn)品，所述方法包括：通過復(fù)用第一寄存器組，依次將第i個(gè)查詢分塊的N1個(gè)查詢子塊，從共享內(nèi)存加載至第一寄存器組，并基于矩陣乘加指令，對(duì)每次加載得到的查詢子塊與第j個(gè)鍵分塊中對(duì)應(yīng)的鍵子塊...

本發(fā)明提供一種人工智能芯片及其操作方法。該人工智能芯片包括多個(gè)計(jì)算核、線程塊切分單元以及多個(gè)線程束調(diào)度和指令發(fā)射單元。線程塊切分單元將一個(gè)線程塊切分為多個(gè)原線程束。在原線程束數(shù)量較少的應(yīng)用情境中，線程塊切分單元根據(jù)程序描述符將目前原線程...

一種數(shù)據(jù)加載裝置及電子設(shè)備。該數(shù)據(jù)加載裝置包括交叉開關(guān)電路、存儲(chǔ)部件中的N個(gè)存儲(chǔ)單元，N為大于1的正整數(shù)；存儲(chǔ)部件配置為存儲(chǔ)數(shù)據(jù)；交叉開關(guān)電路配置為將存儲(chǔ)部件中的數(shù)據(jù)加載至對(duì)應(yīng)的處理核以進(jìn)行計(jì)算或處理；交叉開關(guān)電路包括N個(gè)多路分配器，N...

一種中斷上報(bào)處理電路及電子裝置。該中斷上報(bào)處理電路包括與多個(gè)功能單元一一對(duì)應(yīng)耦接的多個(gè)中斷發(fā)生器模塊，用于掛載多個(gè)中斷發(fā)生器模塊的菊花鏈，位于菊花鏈末端的中斷控制器模塊，每個(gè)中斷發(fā)生器模塊配置為緩存耦接的功能單元的中斷請(qǐng)求，并串行輸出接...