【论文阅读】 Deep High-Resolution Representation Learning for Visual Recognition
【论文阅读】 Deep High-Resolution Representation Learning for Visual Recognition简介在计算机视觉中高分辨的表示是非常重要的，HRNet是用于识别的高分辨网络，广泛的用于姿态检测以及语义分割中，也可用于目标检测。
网络结构相比一般的网络，HRNet具有特殊的结构，一般的卷积神经网络往往是随着网络的深入，特征图的分辨率逐渐由高到低，这样的网络结构设计适合一般的视觉问题，视觉空间信息都是冗余的，对信息的精准度要求不高，但是这种结构在面对关键点检测以及语义分割问题的时候就不能很好的完成任务，精准度不够。因此就有了HRNet的结构设计如下图所示：HRNet网络在模型的整个过程中都能保持高分辨率，采用并行的网络，不同的流的分辨率不同，在网络的第n个阶段有n流个网络，从前往后每次下采样一个流，同时在阶段的连接出对信息进行交汇，从高分辨率使用卷积到低分辨率，从低分辨率的流上采样到高分辨率的流，最终得到模型。模型的特色有两点：
使用并行连接从高到低分辨率的卷积流
跨分辨率反复交换信息
使用并行连接使得在整个过程中都保持了高分辨率的表 ...
今日随笔
我终于把图床修好了之前gitee的图床用不了，因此这段时间博客都一片404（其实本来也影响不大，毕竟也没几篇博客），今天总算抽出时间修一下，虽然不是什么特别麻烦的事，就是懒。之前的图还真是手动一个一个传的，效率太低，现在用了typora+picgo+github，总算是能用了，方便了不少，希望以后会多更新下吧。之前说的要把大作业都传上去，也能方便后面的学弟学妹，但是后面要么懒，要么就做毕设，最近毕设做的差不多了，又要开始准备做研究生的项目了（虽然确实不多）。
不过前段时间做的一个有意义的事是联系了两个小伙伴，把自己的考研经历分享到了GitHub，三人成绩还行（平均380+），也上岸了，下一篇就分享一下经历。
最近在做毕设论文的修改，同时也学习一下深度学习相关领域的知识，毕竟准研究生了，要学的很多东西可以先准备着了。
Ubuntu 20.04下Pytorch深度学习环境搭建以及常用工具配置
Ubuntu 20.04下Pytorch深度学习环境搭建以及常用工具配置作者：CoderJackZhu
从事计算机相关行业的在今后学习工作过程中总会接触到Linux系统，而且在很多情况下，Windows下可能会出现一些奇奇怪怪的bug，这些问题部分是系统的问题导致的，比如常见的路径中不能带中文。深度学习环境有时候为了更好的管理机器，取得更好的效率也常常采用Linux系统，这里选择Ubuntu是对于个人的萌新而言，应该选择尽量大众些的系统，出问题也容易找到解决办法，比如由于各种误操作，linux系统我至少已经重装过不下二十次了，为了更好的学习相关知识，这样一个系统的搭建也是需要的，这里写出这个博客为了方便使用，也让我之后重装系统的时候不用再找好几个博客了。
“双系统”中Ubuntu安装这里的所说的双系统并不是真正的单个硬盘上多个挂载点的双系统，而是把第二个系统装在移动硬盘里面，这样正常开机默认还是Windows系统，需要选择系统就在进入系统时长按F11（不同品牌电脑不同），选择相应的系统就可以进入了，这样的安装相比一个硬盘上多个挂载点简易不少，配置难度低，而且不易出问题，不然一不小心两个 ...
考研后的思考
考研后的感想想法今天是考研后的第二天晚上，考研生活算是过去了，然后就是之后的新生活了，对于之后的安排，目前来看，主线是做毕业设计，在期间可以学习一些东西。我计划近期将之前做过的大作业再复习一遍，然后整理出来，发到博客里，这不是什么大的任务，我打算先从这样的小事做起，慢慢学知识。毕竟，在有目标的情况下很多时候还不一定能一直坚持做事，现在时间比较闲了，能做多少事就比较随缘了。
之后就是毕业设计了，这个毕业设计选择的是视频理解方面的，了解过一些，感觉这块可以好好做，小导师也不错，开始push我准备毕设了，不过这块应该不是特别难，后面做也来得及，先休息下。
机器学习课程报告——波士顿房价预测
摘 要在这次大作业中我完成了波士顿房价预测模型的实现, 波士顿房价预测是一个经典的回归模型。在本次实验中, 首先对数据的分布情况以及特征信息, 相关性信息都进行了查看, 并分别对每个特征的相关性信息进行了分析, 并筛选掉无用的特征, 更好的对结果进行预测。然后根据特征的信息与房价存在线性和非线性相关的关系, 这里依次选择了神经网络预测模型以及线性模型对房价的结果进行了预测, 并检验其效果。这里采用了 sklearn 中的库函数来进行训练集和测试集的划分,将 (30%) 的部分划分为测试集。对于神经网络模型, 采用的是一个三层的全连接网络, 通过均方损失函数和 Adam 优化器对网络的参数进行更新, 最终使得网络可以更好的进行预测。对于线性模型, 采用了 sklearn 中的线性回归函数进行预测。对于两者都进行了与实际值的对比, 并计算方差和相关系数, 从而更好的对比了两者的效果差别。关键词: 特征选择 神经网络 线性模型
目 录1 背景介绍 11.1 问题描述 12 方法 13 代码实现 13.1 读取数据及预处理 13.2 神经网络预测模型实现 33.3 线性模型 64 试验结果 6 ...
计算智能导论作业——感知器实现二分类
目 录1 背景知识 11.1 基本定义 11.2 感知器的损失函数 11.3 感知器的训练 12 数据集 23 代码实现 24 结果展示与分析 44.1 数据集一 44.2 数据集二 54.3 数据集三 55 探究 66 总结 7A 程序代码 8
1 背景知识1.1 基本定义感知器可以实现简单的布尔运算, 可以拟合任何的线性函数, 任何线性分类或线性问题都可以用感知器来解决, 布尔运算就可以看作是一个二分类问题, 用一条直线将两类分开。感知器无法实现异或运算, 因为异或运算不是线性的, 无法用一条直线将两类分开。与逻辑斯蒂回归从概率的角度判别不同, 感知机可以理解为从几何的角度上做判断, 即求得一个分离超平面, 可以将对应输入空间中的实例划分为正负两类。一个感知器有如下组成部分:
输入权值: 一个感知器可以接收多个输入 $(x_{1},x_{2},\ldots,x_{n} | x_{i} \in \mathbb{R})$, 每个输入上有一个权值 $\omega_{i} \in \mathbb{R}$, 此外还有一个偏置项 $b \in \mathbb{R}$, 就是上图中的 $\om ...
计算智能导论作业——FCM 聚类的实现
目 录1 背景知识 11.1 FCM 算法原理 12 数据集简介 12.1 Iris 数据集 13 实验环境 14 代码实现 25 结果分析 46 总结 4A Iris FCM 程序代码 5
1 背景知识1.1 FCM 算法原理FCM 算法 (Fuzzy c-Means) 也称为模糊 $C$ 均值算法,是一种基于划分的聚类算法,他的思想就是使得被划分到同一簇的对象之间相似度最大, 而不同簇之间的相似度最小。模糊 $C$ 均值算法是普通 $C$ 均值算法的改进,普通 $C$ 均值算法对于数据的划分是硬性的,而 FCM 则是一种柔性的模糊划分。通过隶属度函数来描述样本属于某个集合的程度, 其自变量范围是所有样本点的所有值,值域范围是 $[0,1]$ ,即 $0 \leq \mu_A(x) \leq 1$。
有了模糊集合的概念, 一个元素属于某个类就不是硬性的, 而是属于某个聚类的隶属度是区间 $[0,1]$ 之间的值,样本属于所有类的隶属度之和应该等于 1,可以表示为
$$J(U,z_{1},z_{2},\ldots,z_{c}) = \sum_{j = 1}^c J_ ...
机器学习上机报告——聚类分析
摘 要本文使用了K-means和DBSCAN两种聚类方法，较好的完成了聚类任务，并将得到的结果使用了t-SNE和PCA两种方法进行降维可视化，从而更好的得到聚类的效果，并计算了轮廓系数、CH score、DBI这些聚类指标，对于K-means方法还使用了图片进行聚类，使得效果更加直观，实验效果非常好。 在这次实验中，使用的两种聚类方法，K-means是基于原型的方法，而DBSCAN是基于密度的聚类方法。本文首先介绍了两种聚类方法的背景知识以及相关指标的知识，随后简单介绍了Iris数据集，然后展示出实验环境。 在代码实现部分，本文分别对两种聚类方法列出了重点的代码，并进行简要的介绍，说明这些部分是如何通过代码实现的。 在实验结果部分，本文展示了两种聚类方法的结果，对于K-means方法，使用Iris数据集进行了降维可视化，并算出Iris的轮廓系数为0.4976，对图片进行聚类，得到着色后的效果图，并进行降维可视化。对于DBSCAN方法，这里使用了八组数据进行展示，分别对八组数据求出其轮廓系数、CH score、DBI这些聚类指标，并得到了较好的实验效果，数据较多，具体数据以及聚类效果图见 ...
机器学习作业——高光谱遥感特征选择
目 录1 实验说明 12 数据集 13 特征选择 23.1 基本方法 23.2 单变量选择法 23.3 递归特征消除法 24 代码实现 24.1 获取数据 24.2 数据预处理 34.3 定义单变量选择函数 34.4 定义递归特征选择法函数 44.5 定义获得数据函数 44.6 定义评定函数 54.7 主函数 55 结果分析 66 优缺点分析 66.1 Filter 66.2 Wrapper 77 总结 7A 作业代码 8
1 实验说明本次实验的目标为利用提供的高光谱遥感数据集进行特征选择, 有以下实验要求:
利用给定的数据集, 进行数据特征 (波段) 选择。
具体选择方法和策略不限制。
实验结果度量标准不少于 4 种, 结合课程学习中的指标。
建议对比不同类型的选择方法, 给出各种方法的优缺点。数据集给出的数据维数较高, 其中存在了许多冗余的信息以及无关信息, 如果把这些实际的数据直接放到神经网络中则很难得出较好的结果, 而且计算量大大增加, 因此需要进行特征提取, 把影响实验效果的特征清除掉, 用较少的特征对实验结果进行分析。
2 数据集在本次实验中, 提供了多种数据可以选择, ...
计算智能导论作业——遗传算法的实现
目 录1 背景知识 11.1 最优化问题 11.2 进化算法 11.3 遗传算法的基本知识 11.3.1 生物背景 21.3.2 基本思想 21.4 遗传算法的组成部分 21.4.1 编码机制 31.4.2 种群初始化 31.4.3 适应度函数 31.4.4 遗传算子 32 算法步骤 43 实验过程 43.1 代码实现 44 结果分析 55 总结 5A 程序代码 7
1 背景知识1.1 最优化问题工程设计中最优化问题 (optimization problem) 的一般提法是要选择一组参数 (变量),在满足一系列有关的限制条件 (约束) 下, 使设计指标 (目标) 达到最优值。最优化问题一般包括两方面问题: 线性问题和非线性问题。一方面是线性问题的求解, 主要在经济活动及工程技术中出现。这类问题一般采用单纯形法来求解。另一方面是非线性问题的求解, 这类问题在工程中经常碰到, 是最为常见的一类问题, 尤其是在物理学和决策中, 许多问题常常可以归结为非线性规划问题。这类问题一般需要先建立一个数学模型, 再进行求解。最优化问题的求解实质就是将物理问题数学化, 把最优化问题的求解转化为目标函数 ...
