卷积神经网络详解(一)——基础知识

卷积神经网络详解(一)——基础知识

1. 卷积神经网络的组成

1981年诺贝尔医学奖得主,神经生物学家David Hubel 和Torsten Wiesel对人脑视觉系统的研究表明:人脑视觉系统首先通过眼睛来成像,图像通过瞳孔、晶状体最终在视网膜上成像。视网膜上布满了大量的光感受细胞,可以把光刺激转换为神经冲动,神经冲动通过视觉通路传递到大脑的初级视觉皮层(Primary Visual Cortex,V1),V1初步处理得到边缘、方向等特征信息,而后经由V2的进一步抽象得到轮廓、形状等特征信息,如此迭代地经由多层(V1层至V5层)的抽象后得到高层特征。高层特征是低层特征的组合[1],从低层特征到高层特征的抽象过程中,语义的表现越来越清晰,存在的歧义越来越少,对目标的识别也就越来越精确。这就是人脑视觉系统的分层处理机制。

Read more
Linux域名解析服务

Linux域名解析服务

Linux域名解析服务的配置由三个基本的配置文件决定: /etc/hosts, /etc/resolv.conf与/etc/nsswitch.conf。本文结合这三个文件各自的作用与联系介绍Linux的域名解析服务。

Read more
正向代理与反向代理

正向代理与反向代理

客户端在访问目标服务器时,可能会遇到:1) 目标服务器允许客户端访问,但受到其他限制(如客户端防火墙等)导致客户端无法访问目标服务器的情况;2)目标服务器拒绝客户端访问资源(如服务器端防火墙、IP限制等)的情况。

正向代理与反向代理则是分别用于应对这两种情况的。

Read more
使用pip安装TensorFlow Object Detection API

使用pip安装TensorFlow Object Detection API

TensorFlow Object Detection API的安装相当麻烦,其 官方安装指导要求使用者先克隆下整个tensorflow/models仓库,然后安装Protobuf,编译出object_detection模块,再使用pip进行安装。虽然从开发者的角度看,此安装方法足以满足在各个系统平台下安装TensorFlow Object Detection API的需求,但对于使用者来说,安装这一个API可能就需要耗费大量的时间。

Read more
Linux远程桌面服务VNC/XRDP/Xdmcp/SSH+X11转发及其在树莓派上的使用
硬盘基础知识

硬盘基础知识

硬盘接口

IDE(Integrated Drive Electronics),即电子集成驱动器,是曾经主流的硬盘接口(同时也作为光驱的接口)。IDE又称ATA(Advanced Technology Attachment),即“高级技术附件”。稍晚时间后,又出现了EIDE(Enhanced IDE)及其他改进版本,从当下的视角再看,我们通常已经不再区分IDE与EIDE了。在SATA(Serial ATA)出现后,ATA改名为PATA(Parallel ATA)以作区分。PATA活跃于1986年至2013年。

SCSI(Small Computer System Interface),即小型计算机系统接口,可以连接硬盘、软驱、光驱、打印机等设备。SCSI出现的原因主要是因为IDE接口的硬盘转速太慢,传输速率太低。从原理层面看,SCSI与IDE一样使用的是并行技术,因此在SAS(Serial Attached SCSI)出现后SCSI就通常被称为并行SCSI了。

此后又出现了SATA(Serial Advanced Technology Attachment,串行高级技术附件)、SAS(Serial Attached SCSI,串行连接SCSI) 等接口,使用了串行技术,提高了数据传输速率。

我们可以将,SCSI和SAS划归为另一个系列,SCSI和SAS价格较高,在各自的年代都是用在高级的服务器上的,私人电脑上较少使用。而将IDE和SATA划归为一个系列,它们用于一般电脑或PC上,SATA在当下非常普遍。

Read more
Linux文件系统

Linux文件系统

文件系统

计算机的文件系统是一种存储和组织计算机数据的方法,借助于文件系统,用户或程序对文件的访问和查找变得容易。 Linux支持的文件系统格式有:Ext2, Ext3, Ext4, ReiserFS, Xfs, Btrfs, FAT, FAT32, NTFS等。本文中,我并不打算展开对这些文件系统的详细解释,只是简单说出以下这些结论:

Ext2, Ext3, Ext4是Linux系统上最常用的文件系统,发展到Ext4时已经十分稳定,没有特别要求时,一般都可以使用;

ReiserFS是用B+树作为数据结构的文件系统,在处理小文件时有较好的性能,在实践中,ReiserFS在处理文件小于1k小文件时,甚至效率可以比ext3快约10倍;

XFS使用64位管理空间,在多文件、大文件系统、空间利用率等方面相比Ext4更有优势。从CentOS 7开始,默认的文件系统就由此前的Ext4改为XFS了,由于文件规模的不断增大,日后Ext4可能会被XFS所取代。

Btrfs官方宣称其为“下一代文件系统”,虽然从理念上看Btrfs确实可能存在不错的效果,但截至目前,它的性能表现还是太差了,不建议使用。

【Ext4、XFS、Btrfs的详细对比,感兴趣的读者可以看看这篇Benchmark:EXT3 vs EXT4 vs XFS vs BTRFS linux filesystems benchmark

Read more
卷积神经网络重要论文资源合辑

卷积神经网络重要论文资源合辑

卷积神经网络的前身与早期发展:

  • 1980年日本学者福岛邦彦(Kunihiko Fukushima)提出的神经认知机模型(Neocognitron)
    Fukushima K, Miyake S. Neocognitron: A self-organizing neural network model for a mechanism of visual pattern recognition[M].Competition and cooperation in neural nets. Springer, Berlin, Heidelberg, 1982: 267-285.
  • 1989年Yann LeCun提出第一个真正意义上的CNN:LeNet 1989
    LeCun Y, Boser B, Denker J S, et al. Backpropagation applied to handwritten zip code recognition[J]. Neural computation, 1989, 1(4): 541-551.
  • 1998年Yann LeCun在其博士论文中详细介绍了LeNet(又称LeNet-5),影响力巨大
    LeCun Y, Bottou L, Bengio Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11): 2278-2324.
Read more