生成式模型 VS 判别式模型Discriminative models learn the classification (hard or soft) boundary between classes. A discriminative model learns the conditional probability distribution p(y|x) - which you should r

深度学习中的优化算法主要围绕梯度下降算法展开，其主要思想是：选取一定的训练样本，按照一定的步长（学习率）沿着梯度的方向调整更新参数，优化模型的目标函数。 SGD随机梯度下降法是每次使用一批数据进行梯度的计算，而非计算全部数据的梯度，因为如果每次计算全部数据的梯度，会导致运算量加大，运算时间变长，容易陷入局部最优解，而随机梯度下降可能每次不是朝着真正最小的方向，这样反而可以跳出局部的最优解。

欢迎来到zyz的个人网站。这是我的第一篇博客。

2020-10-31当前很多网上开源的 Normalizing Flow 模型都是在一些 toy 数据测试的，例如使用 np.random.randn() 函数随机生成的 2d 数据。本周我尝试复现了一下toy数据集的结果，下周我想抽时间编写和实现 NF 模型的多 GPU 训练代码（基于 PyTorch 框架）, 换 mnist 数据集测试一下。

We don’t know something is blue until we see red. We don’t know something is music until we hear noise. 在过去，无监督学习以例如 VAE、GAN 这样的生成式模型比较多，生成式模型期望利用数据表征重构完整数据。但最近判别式模型逐渐走进了人们的视野。对比学习是何恺明、Hinton、LeCun等

实验分为两个阶段， 搭建 基于MFCC 的 baseline; 之后是引入 wav2vec 获取语音的 CPC feature 进行实验。 DataSet使用 LibSpeech 训练说话人识别模型和做语音预训练，使用 sitw 和 CN-Celeb 测试 ASV 系统性能 LibSpeech (Pretain & Dev) sitw (Test) CN-Celeb (Test)

Self-Supervised Pretrain speech representation for Speaker Recogntion The ongoing success of deep learning techniques depends on the quality of the representations automatically discovered from data.

Motivation使用预训练模型提取语音声学特征从而提高当前说话人识别系统的性能。 Self-Supervised Pretrain speech representation for Speaker Recogntion The goal of speech representation learning is to find a transformation from the surface

摘 要： 《中国制造2025》报告中明确指出，智能网联汽车是我国将要重点发展的新兴事物之一，它与传统汽车最大的区别在于它运用了AI技术，有着人工智能的加持。随着人工智能的不断发展和低时延高带宽5G网络的普及，自动驾驶在未来必将迎来新的发展。然而整个社会交通的智能化、自动驾驶化整个过程并不是一蹴而就的，需要长时间的不断构建、迭代和转型。因此我结合本门课程所学的“社会—技术”系统分析的相关知识，