本發(fā)明提供一種片上網(wǎng)絡(luò)的靜態(tài)驗(yàn)證方法、裝置、設(shè)備、介質(zhì)和程序產(chǎn)品，屬于芯片設(shè)計(jì)驗(yàn)證技術(shù)領(lǐng)域，其中方法包括：獲取片上網(wǎng)絡(luò)連接的各總線接口對(duì)應(yīng)的接口屬性集合；基于預(yù)設(shè)檢查規(guī)則，對(duì)所述接口屬性集合進(jìn)行協(xié)議規(guī)則檢查，得到所述片上網(wǎng)絡(luò)的接口檢查結(jié)...

本發(fā)明實(shí)施例提供一種測(cè)試平臺(tái)冷啟動(dòng)方法及裝置，該方法包括：響應(yīng)于第一線程接收到至少一個(gè)測(cè)試平臺(tái)的連接請(qǐng)求，第一線程分別創(chuàng)建與測(cè)試平臺(tái)對(duì)應(yīng)的子線程；響應(yīng)于子線程接收到對(duì)應(yīng)的測(cè)試平臺(tái)的冷啟動(dòng)請(qǐng)求，根據(jù)冷啟動(dòng)請(qǐng)求獲取冷啟動(dòng)控制數(shù)據(jù)，等待預(yù)設(shè)延...

本發(fā)明提供一種模型訓(xùn)練方法、電子設(shè)備、存儲(chǔ)介質(zhì)和程序產(chǎn)品，所述方法包括：基于調(diào)度器，確定模型每個(gè)訓(xùn)練輪次的采樣數(shù)量，調(diào)度器用于表征首個(gè)訓(xùn)練輪次的采樣數(shù)量為第一預(yù)設(shè)數(shù)量，末個(gè)訓(xùn)練輪次的采樣數(shù)量為第二預(yù)設(shè)數(shù)量，第一預(yù)設(shè)數(shù)量小于第二預(yù)設(shè)數(shù)量；...

本發(fā)明提供一種芯片配置方法及裝置，涉及計(jì)算機(jī)技術(shù)領(lǐng)域，方法包括：將板卡上存儲(chǔ)單元中的至少一個(gè)比特，定義為目標(biāo)標(biāo)志位；在目標(biāo)標(biāo)志位為第一值的情況下，從存儲(chǔ)單元中獲取第一值對(duì)應(yīng)的第一信息；其中，第一信息與待配置芯片中至少一個(gè)可編程多處理器的...

本申請(qǐng)實(shí)施例提供了Attention算子的反向傳播優(yōu)化方法和設(shè)備，涉及人工智能技術(shù)領(lǐng)域，在該方法中，將Attention算子的反向傳播過程涉及多個(gè)算子進(jìn)行算子融合，獲得目標(biāo)融合算子。然后采用張量計(jì)算單元和矢量計(jì)算單元，對(duì)目標(biāo)融合算子進(jìn)行...

本發(fā)明涉及人工智能領(lǐng)域中的集群節(jié)點(diǎn)GPU芯片資源管理技術(shù)領(lǐng)域，提供一種集群節(jié)點(diǎn)的運(yùn)維方法、系統(tǒng)、電子設(shè)備和存儲(chǔ)介質(zhì)，其中方法包括：向云代理服務(wù)發(fā)送運(yùn)維請(qǐng)求，以使所述云代理服務(wù)基于所述運(yùn)維請(qǐng)求在集群節(jié)點(diǎn)上執(zhí)行相應(yīng)的運(yùn)維任務(wù)并得到運(yùn)維結(jié)果，...

本發(fā)明提供一種模型的雙層級(jí)解碼方法及裝置，涉及人工智能技術(shù)領(lǐng)域，方法包括：將待推理文本輸入至淺模型中，進(jìn)行當(dāng)前步的推理，得到輸出的隱空間變量以及淺層推理文本；淺層推理文本包括第一數(shù)量個(gè)淺層推理單字及其概率值；將隱空間變量輸入至深模型中，...

本申請(qǐng)公開了一種顯存分配方法和相關(guān)裝置，該方法中，確定設(shè)定芯片的顯存分配規(guī)則，該設(shè)定芯片上部署設(shè)定模型，該設(shè)定模型對(duì)應(yīng)確定的張量特征信息，獲取該張量特征信息。由于第一存儲(chǔ)規(guī)則的確定過程考慮了顯存分配規(guī)則和張量特征信息的關(guān)系，因此，將待處...

本發(fā)明提供一種計(jì)算任務(wù)分配方法、裝置、芯片、設(shè)備和存儲(chǔ)介質(zhì)，其中方法包括：從各候選計(jì)算單元中，選取處于空閑狀態(tài)、且處于健康狀態(tài)的候選計(jì)算單元作為可用計(jì)算單元，健康狀態(tài)基于候選計(jì)算單元的電氣參數(shù)和溫度中的至少一種確定；向可用計(jì)算單元分配計(jì)...

本發(fā)明公開了一種芯片測(cè)試裝置、測(cè)試方法及芯片，芯片測(cè)試裝置包括信號(hào)發(fā)生器和信號(hào)測(cè)量器，信號(hào)發(fā)生器在對(duì)待測(cè)試芯片進(jìn)行老化測(cè)試的過程中，向待測(cè)試信號(hào)傳輸路徑的一端提供測(cè)試信號(hào)，以使測(cè)試信號(hào)由待測(cè)試信號(hào)傳輸路徑的一端向待測(cè)試信號(hào)傳輸路徑的另一...

本發(fā)明實(shí)施例提供一種板卡固件管理裝置、系統(tǒng)和服務(wù)器，該裝置包括：板卡主控芯片、可編程邏輯器件和電源芯片；其中，板卡主控芯片、可編程邏輯器件和電源芯片均位于同一板卡中；板卡主控芯片、可編程邏輯器件分別和電源芯片連接；板卡主控芯片和可編程邏...

本發(fā)明提供一種PCIe擴(kuò)展卡和服務(wù)器，涉及集成電路技術(shù)領(lǐng)域，尤其涉及一種插入式電路板，PCIe擴(kuò)展卡包括：功能模塊、轉(zhuǎn)接模塊和第一接口；功能模塊包括第一端口和第二端口；功能模塊的第一端口用于連接第一接口的第一端口；轉(zhuǎn)接模塊包括固定端口、...

本發(fā)明提供一種模型推理方法、裝置、電子設(shè)備、存儲(chǔ)介質(zhì)和程序產(chǎn)品，尤其涉及人工智能領(lǐng)域。所述方法包括：將當(dāng)前待推理數(shù)據(jù)輸入至模型庫中的當(dāng)前模型，由當(dāng)前模型進(jìn)行推理，得到初始推理結(jié)果；模型庫中包括多個(gè)模型，且多個(gè)模型按照規(guī)模從小到大排序；若...

本發(fā)明提供一種掩碼異步更新方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)，包括：GPU基于當(dāng)前迭代步的先行解碼推理結(jié)果和注意力掩碼矩陣，生成先行解碼驗(yàn)證指令；CPU響應(yīng)于先行解碼驗(yàn)證指令，對(duì)先行解碼推理結(jié)果進(jìn)行先行解碼驗(yàn)證，得到當(dāng)前迭代步的驗(yàn)證結(jié)果；G...

本發(fā)明提供一種編碼方法、裝置、電子設(shè)備、存儲(chǔ)介質(zhì)和程序產(chǎn)品，所述方法涉及人工智能大模型推理技術(shù)領(lǐng)域，包括：基于模型的最大允許推理長度，對(duì)待推理序列進(jìn)行分組，得到多個(gè)分組序列；對(duì)各分組序列進(jìn)行位置編碼，得到各分組序列的初始位置編碼結(jié)果；基...

本發(fā)明提供一種模型推理方法、裝置、電子設(shè)備、存儲(chǔ)介質(zhì)和程序產(chǎn)品，所述方法包括：基于第一模型，對(duì)當(dāng)前待推理數(shù)據(jù)進(jìn)行模型推理，得到當(dāng)前推理結(jié)果，第一模型推理過程中生成的分詞信息全部存儲(chǔ)于第一緩存；在當(dāng)前推理結(jié)果的置信度小于閾值的情況下，基于...

一種參數(shù)尋優(yōu)方法、電子設(shè)備、存儲(chǔ)介質(zhì)和計(jì)算機(jī)程序產(chǎn)品。該參數(shù)尋優(yōu)方法包括：獲取卷積計(jì)算的第一輸入數(shù)據(jù)塊和第二輸入數(shù)據(jù)塊的維度信息；基于維度信息確定多個(gè)調(diào)優(yōu)參數(shù)的取值集合；分別篩選第一調(diào)優(yōu)參數(shù)的取值集合和第二調(diào)優(yōu)參數(shù)的取值集合中的多個(gè)數(shù)值...

本發(fā)明提供一種數(shù)據(jù)存儲(chǔ)方法、裝置、電子設(shè)備和存儲(chǔ)介質(zhì)，其中方法包括：獲取用于存儲(chǔ)目標(biāo)數(shù)據(jù)的第一偏移量；基于存儲(chǔ)塊跨度，對(duì)所述第一偏移量進(jìn)行調(diào)整，得到第二偏移量，所述存儲(chǔ)塊跨度基于用于存儲(chǔ)所述目標(biāo)數(shù)據(jù)的存儲(chǔ)塊粒度確定；基于所述第二偏移量，...

本申請(qǐng)實(shí)施例公開了一種用于執(zhí)行模型參數(shù)更新的方法和相關(guān)設(shè)備，該方法中，在計(jì)算設(shè)備處，獲取損失函數(shù)；該損失函數(shù)的殘差項(xiàng)表示設(shè)定模型的輸出項(xiàng)與輸出項(xiàng)的偏導(dǎo)項(xiàng)的關(guān)系；對(duì)損失函數(shù)進(jìn)行第一梯度處理操作，生成第一梯度信息；對(duì)損失函數(shù)進(jìn)行第二梯度處理...

本發(fā)明提供一種芯片的測(cè)試電路，涉及測(cè)試技術(shù)領(lǐng)域，芯片包括至少一個(gè)待測(cè)子模塊和至少一個(gè)測(cè)試電路，所述測(cè)試電路包括：控制模塊和翻轉(zhuǎn)信號(hào)發(fā)生模塊；控制模塊連接于翻轉(zhuǎn)信號(hào)發(fā)生模塊的控制端，翻轉(zhuǎn)信號(hào)發(fā)生模塊的輸出端連接于待測(cè)子模塊對(duì)應(yīng)的壓縮解壓縮...