卷积神经网络架构

洛北辰南

393人浏览 · 2019-04-15 12:08:13

洛北辰南 · 2019-04-15 12:08:13 发布

研究一门科学，就要先溯本求原，学习它的发展历史，然后再了解其研究热点。

name	介绍	时间	论文
LeNet	第一个成功应用于mnist数据集的卷积神经网络	1988	Gradient-Based Learning Applied to Document Recognition
AlexNet	提出ReLU、Dropout、最大池化、LRN、GPU加速、数据增强	2012	ImageNet Classification with Deep Convolutional Neural Networks
NIN	提出mlpconv层（1×1卷积+mlp），提出全局平均池化替代全连接层	2014	Network In Network
ZF	使用反卷积对CNN的中间特征图进行可视化分析	2013	Visualizing and Understanding Convolutional Networks
Overfeat	采用offset池化	2013	OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks
VGG	3×3卷积核，2×2池化核，训练阶段最后的三个FC，测试时换成conv	2014	Very Deep Convolutional Networks for Large-Scale Image Recognition
GoogleLeNet	核心组件为inception，全局平均池化替代全连接层	2014	Going Deeper with Convolutions(Inception-V1)
Inception-V3	并联不同尺寸卷积核的处理过程	2015	Rethinking the Inception Architecture for Computer Vision
FCN	逐像素预测，解决语义分割问题	2015	Fully Convolutional Networks for Semantic Segmentation
ResNet	允许原始输入信息直接传到后面的层	2015	Deep Residual Learning for Image Recognition
DenseNet	加强特征复用，缓解梯度消失	2017	Densely Connected Convolutional Networks
DPN	融合ResNeXt和DenseNet的核心思想	2017	Dual Path Networks
RAN	残差注意力网络是一种应用了注意力机制的卷积神经网络，可将最先进的前馈网络架构融合到端到端的训练过程中。	2017	Residual Attention Network for Image Classification
SE-Net	包含特征压缩、激发（特征通道权重计算）和重配权重等过程	2018	Squeeze-and-Excitation Networks

天工造物局

北京人形旗下天工造物具身智能开源社区，聚焦具身天工与慧思开物两大平台

更多推荐

Handy 离线语音转写教程：免费开源，本地跑不连网

你肯定遇到过：语音输入 5 分钟，云转写服务要登录、要付费；或者出差没网，想口述一段会议纪要，发现全都没法用。Handy 离线语音转写工具就是为解决这个问题做的，声音全程不出你的电脑。## 🎯 这个工具是什么Handy 是一款免费、开源、跨平台（Windows / macOS / Linux）的离线语音转写应用。按住快捷键说话，松手后文字直接粘贴进任意输入框，全程不联网。核心能力就三条：

天工造物局

Supabase Edge Functions 编写与部署完整指南：Deno 运行时上的无服务器利器

Supabase Edge Functions 是基于 Deno 运行时编写、面向 Web 的无服务器函数服务，帮你把后端逻辑部署到全球边缘节点。作为 Postgres 开发平台的核心能力之一，它让你用 TypeScript 就能快速搭建低延迟的 API 端点、Webhook 接收器和 AI 集成服务，无需管理任何服务器。本文将从零带你完成一个 Edge Function 的创建、本地调试与全球部

天工造物局

celld从v0.1.0到v0.2.0为何不能滚动升级：两个破坏性变更详解

celld 是一个自托管、分布式的 Durable Objects 开源守护进程，它在你自己的机器上运行 Cloudflare Workers，每个对象对应一个独立的 SQLite 数据库，并持续复制到你自己拥有的 S3 兼容存储桶中。如果你正准备把 v0.1.0 的集群（fleet）升级到 v0.2.0，这篇文章必须先读：这次升级**不能滚动升级**，必须采用"先停光、再启动"的一次性发布方式。