PyTorch

本文介紹多分類問題的基本概念，構建一個簡單的多分類神經網絡模型，并演示如何準備數據、訓練模型和評估結果。 ... ?

在本文中，我們深入探討了自然語言處理中的文本摘要技術，從其定義、發展歷程，到其主要任務和各種類型的技術方法。文章詳細解析了抽取式、生成式摘要，并為每種方法提供了PyTorch實現代碼。最后，文章總結了摘要技術的意義和未來的挑戰，強調了其在信息過載時代的重要性。 關注TechLead，分享AI全維度知 ... ?

前言 由于兼容性問題，使得我們若想用較新版本的 PyTorch，通過 GPU 方式訓練模型，也得更換較新版本得 CUDA 工具包。然而 CUDA 的版本又與電腦顯卡的驅動程序版本關聯，如果是低版本的顯卡驅動程序安裝 CUDA11 及以上肯定會失敗。 比如 GTX750Ti 或 GTX1050Ti，出 ... ?

關注TechLead，分享AI全維度知識。作者擁有10+年互聯網服務架構、AI產品研發經驗、團隊管理經驗，同濟本復旦碩，復旦機器人智能實驗室成員，阿里云認證的資深架構師，項目管理專業人士，上億營收AI產品研發負責人。 本文全面探討了自然語言處理（NLP）中句法分析的理論與實踐。從句法和語法的定義，到 ... ?

本文從BERT的基本概念和架構開始，詳細講解了其預訓練和微調機制，并通過Python和PyTorch代碼示例展示了如何在實際應用中使用這一模型。我們探討了BERT的核心特點，包括其強大的注意力機制和與其他Transformer架構的差異。 關注TechLead，分享AI全維度知識。作者擁有10+年互 ... ?

最近新換了工作，以后的工作內容會和大模型相關，所以先抽空跑了一下chatGLM2-6b的demo，使用Qlora或lora微調模型 今天簡單寫個文檔記錄一下，順便也是一個簡單的教程，并且踩了qlora loss變成nan訓練不穩定的問題 本教程并沒有寫lora的原理，需要的話自行查閱 1.chatG ... ?

在本篇文章中，我們全面而深入地探討了強化學習（Reinforcement Learning）的基礎概念、主流算法和實戰步驟。從馬爾可夫決策過程（MDP）到高級算法如PPO，文章旨在為讀者提供一套全面的理論框架和實用工具。同時，我們還專門探討了強化學習在多個領域，如游戲、金融、醫療和自動駕駛等的具體應 ... ?

在本文中，我們深入探討了注意力機制的理論基礎和實際應用。從其歷史發展和基礎定義，到具體的數學模型，再到其在自然語言處理和計算機視覺等多個人工智能子領域的應用實例，本文為您提供了一個全面且深入的視角。通過Python和PyTorch代碼示例，我們還展示了如何實現這一先進的機制。 關注TechLead， ... ?

本文全面深入地探討了膠囊網絡（Capsule Networks）的原理、構建塊、數學模型以及在PyTorch中的實現。通過本文，讀者不僅能夠理解膠囊網絡的基礎概念和高級數學原理，還能掌握其在實際問題中的應用方法。 關注TechLead，分享AI與云服務技術的全維度知識。作者擁有10+年互聯網服務架構 ... ?

本文深入探討了深度殘差網絡（ResNet）的核心概念和架構組成。我們從深度學習和梯度消失問題入手，逐一解析了殘差塊、初始卷積層、殘差塊組、全局平均池化和全連接層的作用和優點。文章還包含使用PyTorch構建和訓練ResNet模型的實戰部分，帶有詳細的代碼和解釋。 關注TechLead，分享AI與云服 ... ?

本文深入探討了深度信念網絡DBN的核心概念、結構、Pytorch實戰，分析其在深度學習網絡中的定位、潛力與應用場景。 關注TechLead，分享AI與云服務技術的全維度知識。作者擁有10+年互聯網服務架構、AI產品研發經驗、團隊管理經驗，同濟本復旦碩，復旦機器人智能實驗室成員，阿里云認證的資深架構師 ... ?

本文深入探討了長短時記憶網絡（LSTM）的核心概念、結構與數學原理，對LSTM與GRU的差異進行了對比，并通過邏輯分析闡述了LSTM的工作原理。文章還詳細演示了如何使用PyTorch構建和訓練LSTM模型，并突出了LSTM在實際應用中的優勢。 關注TechLead，分享AI與云服務技術的全維度知識。 ... ?

本篇文章和大家了解一下Pytorch隨機數生成常用方法有哪些。有一定的參考價值，有需要的朋友可以參考一下，希望對大家有所幫助。 一、torch.rand()：構造均勻分布張量的方法 torch.rand是用于生成均勻隨機分布張量的函數，從區間[0,1)的均勻分布中隨機抽取一個隨機數生成一個張量，其調 ?

> 基于`torch.nn`搭建神經網絡的基礎教程大綱： ## **1. 引言** 在我們開始深入探討`torch.nn`之前，我們首先需要理解PyTorch及其神經網絡庫的基礎知識。這一部分的內容將幫助你對PyTorch有一個整體的了解。 ### 1.1 **為什么選擇PyTorch？** - * ... ?

筆者的運行環境：python3.8+pytorch2.0.1+pycharm+kaggle用到的網絡框架：yolov5、crnn+ctc項目地址：[GitHub - WangPengxing/plate_identification: 利用yolov5、crnn+ctc進行車牌識別](https:/ ... ?

基于pytorch、transformers做中文領域的nlp開箱即用的訓練框架，提供全套的訓練、微調模型（包括大模型、文本轉向量、文本生成、多模態等模型）的解決方案。 ... ?

>在本文中，我們深入探討了循環神經網絡（RNN）及其高級變體，包括長短時記憶網絡（LSTM）、門控循環單元（GRU）和雙向循環神經網絡（Bi-RNN）。文章詳細介紹了RNN的基本概念、工作原理和應用場景，同時提供了使用PyTorch構建、訓練和評估RNN模型的完整代碼指南。 > 作者 TechLea ... ?

筆者的運行環境：python3.8+pytorch2.0.1+pycharm+kaggle。yolov5對python和pytorch版本是有要求的，python>=3.8，pytorch>=1.6。yolov5共有5種類型n\s\l\m\x，參數量依次遞增，對訓練設備的要求也是遞增。本文以yolo ... ?

YOLOv5是Glenn Jocher等人研發，它是Ultralytics公司的開源項目。YOLOv5根據參數量分為了`n、s、m、l、x`五種類型，其參數量依次上升，當然了其效果也是越來越好。從2020年6月發布至2022年11月已經更新了7個大版本，在v7版本中還添加了語義分割的功能。本文以YO ... ?

利用深度學習進行目標檢測的算法可分為兩類：two-stage和one-stage。two-stage類的算法，是基于Region Proposal的，它包括R-CNN，Fast R-CNN, Faster R-CNN；one-stage類的算法僅僅使用一個CNN網絡直接預測不同目標的類別與位置，它包 ... ?