MQTT(Message Queuing Telemetry Transport)是一种轻量级的即时通信协议，相关介绍可见：MQTT简介。

Paho 是Eclipse的开源 MQTT 客户端项目，提供多种语言的 MQTT 客户端实现，包括 C、C++、C#、Java、Python、JavaScript 等。在Python环境下，Paho MQTT Python客户端由paho-mqtt模块支撑。

本系列文章是笔者以邱锡鹏老师《Pre-trained Models for Natural Language Processing: A Survey》为主要参考材料所做的关于“预训练语言模型综述”的记录，所涉及之素材也包括其他相关综述与未被纳入此综述的工作，分享出来与大家交流讨论。此篇记录预训练语言模型的实际使用。

本系列文章是笔者以邱锡鹏老师《Pre-trained Models for Natural Language Processing: A Survey》为主要参考材料所做的关于“预训练语言模型综述”的记录，所涉及之素材也包括其他相关综述与未被纳入此综述的工作，分享出来与大家交流讨论。此篇记录预训练任务及训练策略。

本系列文章是笔者以邱锡鹏老师《Pre-trained Models for Natural Language Processing: A Survey》为主要参考材料所做的关于“预训练语言模型综述”的记录，所涉及之素材也包括其他相关综述与未被纳入此综述的工作，分享出来与大家交流讨论。此篇记录预训练语言模型及其历史。

开源一些基于TensorFlow 2.x的CNN模块/网络的实现，可能不定时更新。仓库链接：TensorFlow-2-Implementations-of-CNN-Based-Networks

目前的实现包括：

近期，JupyterLab刚刚升级到3.0版本，在安装与使用方面都有不小改进，加之之前部署在树莓派上时遇到偶尔需要跟服务器之间做些文件交换的情况，处理起来还是稍微麻烦了点，所以趁着这次JupyterLab的大更新，也在远程服务器上来部署下JupyterLab 3.0了。

算法的时间复杂度

如果某个算法的复杂度可以表示为$O(n^k)$，即问题规模n出现在底数的位置，这种复杂度称为多项式时间复杂度；

如果某个算法的复杂度表示为$O(k^n)$或$O(n!)$，这种复杂度称为指数型时间复杂度。

相同问题规模下（同时这个问题规模不是太小），指数型时间复杂度远远大于多项式时间复杂度。

创建Snippets文件

在VS Code可以为每种语言创建Snippets文件：打开File–>Preferences–>User Snippets，Existing Snippets区域显示了已经创建的Snippets文件，点击New Snippets区域的语言可以创建新的Snippets文件。

自建服务器或者监控时，需要解决外网设备访问内网端口的任务。这个任务称为内网穿透，解决方法通常是端口映射与端口转发。

本文介绍一个基于树莓派的蓝牙出勤追踪系统，用于记录和监督自己的工作时长情况。
代码与安装指引已更新在GitHub上：树莓派蓝牙出勤追踪系统。

该系统使用树莓派扫描附近的蓝牙或蓝牙低功耗设备，以无感方式收集出勤信息。信息将被存储在InfluxDB中，并通过Grafana的Dashboard使数据可视化。