geasyheart / geasyheart.github.io Goto Github PK

https://geasyheart.github.io/2021/06/16/%E4%BB%8B%E7%BB%8D%E9%9A%90%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB/

什么是马尔可夫性质？ “……一个随机过程，在这个过程中，鉴于现在，未来独立于过去。” 假设一个带有公平硬币的简化抛硬币游戏。暂停怀疑并假设马尔可夫性质尚不清楚，我们想预测 10 次翻转后翻转正面的概率。在条件依赖的假设下（硬币具有过去状态的记忆，未来状态取决于过去状态的顺序），我们必须记录导致第 11 次翻转的特定顺序以及这些翻转的联合概率。所以想象在 10 次翻转后，我们有一个随机的正面和反

https://geasyheart.github.io/2020/02/20/miniconda/

miniconda快速创建python环境1.下载https://docs.conda.io/en/latest/miniconda.html 2. 安装1234chmod +x /code/packages/Miniconda3-latest-Linux-x86_64.sh && \ /code/packages/Miniconda3-latest-Linux-x86_6

https://geasyheart.github.io/2020/02/29/%E5%B7%AE%E7%82%B9%E6%BC%8F%E6%8E%89%E4%BA%86/

https://geasyheart.github.io/2021/06/25/bert%E5%AF%B9%E8%AF%8D%E8%BE%93%E5%85%A5%E6%B1%82%E5%B9%B3%E5%9D%87/

1. word preprocess.123456789101112131415161718192021222324252627282930313233343536373839import torchfrom transformers import AutoTokenizerdef encoder_texts(texts, tokenizer): texts = [list(text) fo

https://geasyheart.github.io/2021/07/02/pytorch%E5%AD%A6%E4%B9%A0%E7%8E%87%E8%B0%83%E6%95%B4/

keras在keras中，比如动态调整学习率，可以： 123456789101112import tensorflow as tfdef step_decay(epoch): if epoch < 3: lr = 1e-5 else: lr = 1e-6 return lrtf.keras.callback

https://geasyheart.github.io/2021/07/22/ubuntu16-04%E5%A4%9AGPU%E9%A3%8E%E6%89%87%E8%BD%AC%E9%80%9F%E8%B0%83%E6%95%B4/

最近闲置出来两块1080ti GPU，内心那叫一个激动哇，虽然有些老，另外训练时转速提不上去，此次就解决这个问题。 方法一（个人只在单GPU上实验成功）1. 生成xorg.conf如果: cannot stat /etc/x11/xorg.conf no such file or directory 123# 生成这个文件$ sudo nvidia-xconfig --enable-all-g

https://geasyheart.github.io/2020/01/11/tmux%E5%90%8E%E5%8F%B0%E8%BF%90%E8%A1%8C/

假设训练GPU不在自己机子上（悲伤脸），远程连接后，直接python train.py，但是如果一旦网络不稳定导致ssh断了，那这训练了一两天的心血可就白费了，所以需要一种简便的方式来后台运行，实现方式有多种，作为一个守护进程，比如supervisor或者systemctl那一些，但是对于算法人员来说这些都太复杂而不简单使用，所以此处推荐tmux。 使用步骤： 123456789$ tmux$(t

https://geasyheart.github.io/2021/08/20/mlp%E5%8F%8D%E5%90%91%E4%BC%A0%E6%92%AD%E6%8E%A8%E5%AF%BC/

最近在Youtube上看到一个非常不错以及简洁实现mlp模型的视频，目标为预测两个数相加和，用两个linear，每层的输入或输出为 2, 5, 1 注意：所有代码可在github上找到，一个是mlp.py，为作者实现，另外torch_mlp.py为依据mlp.py的torch实现。 复习下推导… 强烈建议看代码哦🐶

https://geasyheart.github.io/2021/07/23/%E6%88%91%E6%9C%80%E6%95%AC%E7%88%B1%E7%9A%84%E8%80%81%E5%A9%86/

昨晚10点多突然急性肠炎，躺在床上无心睡眠。前天就有相应症状了，只是没那么明显也没在意。 老婆看我难受，就开始拿手机在网上百度，拉肚子应该吃什么药，氯化钠盐水、抗生素什么的。我说小区外药店应该还开着吧，老婆遂起床跑出去给我买药。随后我起床上厕所给她发消息说我在网上买，你赶紧回来吧。11点多吃了肠炎宁就睡了。 凌晨1点多肚子咕噜咕噜闹肚子，去了厕所，喝了自创的盐糖水，喝了两口瞬间呕吐。我瞬间觉得不能

https://geasyheart.github.io/2021/06/16/%E4%BB%8B%E7%BB%8D%E9%9A%90%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB/

什么是马尔可夫性质？ “……一个随机过程，在这个过程中，鉴于现在，未来独立于过去。” 假设一个带有公平硬币的简化抛硬币游戏。暂停怀疑并假设马尔可夫性质尚不清楚，我们想预测 10 次翻转后翻转正面的概率。在条件依赖的假设下（硬币具有过去状态的记忆，未来状态取决于过去状态的顺序），我们必须记录导致第 11 次翻转的特定顺序以及这些翻转的联合概率。所以想象在 10 次翻转后，我们有一个随机的正面和反

https://geasyheart.github.io/2021/06/19/%E7%A0%94%E7%A9%B6torch0-4-1-rnn%E7%9A%84%E5%AE%9E%E7%8E%B0/

公式 说明 所有测试代码以此为准。 以torch0.4.1的代码为准进行debug rnn代码， 可以pip install 指定版本的torch. 从测试代码可以看到： num_layers相当初始化多少层rnn layer，比如此例子的10， input_size表示上一层的hidden_size(例如本例子的embedding) hidden_size表示rnn的输出hidden_siz

https://geasyheart.github.io/2021/06/28/%E6%95%B0%E6%8D%AE%E5%A2%9E%E5%BC%BA/

图像常见数据增强有翻转，旋转，缩放比例等不同的transforms。对于文本，可以增加噪声干扰，也可以通过添加slide window（此处重点，嘿嘿。） 举个简单例子描述下滑动窗口。 12345678910111213141516a = [1,2,3,4,5][a[i: i + 1] for i in range(0, len(a), 1)]Out[36]: [[1], [2], [3], [4

https://geasyheart.github.io/2021/07/02/pytorch%E5%AD%A6%E4%B9%A0%E7%8E%87%E8%B0%83%E6%95%B4/

keras在keras中，比如动态调整学习率，可以： 123456789101112import tensorflow as tfdef step_decay(epoch): if epoch < 3: lr = 1e-5 else: lr = 1e-6 return lrtf.keras.callback

https://geasyheart.github.io/2019/06/28/python-sub%E4%B8%80%E6%AC%A1%E6%80%A7%E6%9B%BF%E6%8D%A2/

问题来源字符串一次替换，为什么不能多次替换呢，例如 123456s = """<xml> <field name="SALARYCATALOG_ID">150</field> <field name="SALARYCATALOG_ID">170</field></xml>""" 假设150要被替换成170，而170

https://geasyheart.github.io/2021/06/25/bert%E5%AF%B9%E8%AF%8D%E8%BE%93%E5%85%A5%E6%B1%82%E5%B9%B3%E5%9D%87/

1. word preprocess.123456789101112131415161718192021222324252627282930313233343536373839import torchfrom transformers import AutoTokenizerdef encoder_texts(texts, tokenizer): texts = [list(text) fo

https://geasyheart.github.io/2021/08/13/expand%E5%92%8Cunsqueeze%E5%9C%A8%E4%B8%80%E4%BA%9B%E6%83%85%E5%86%B5%E4%BD%BF%E7%94%A8%E7%9A%84%E5%90%AB%E4%B9%89/

情况一 input: 123456import torch# a 模拟的是: batch_size: 2, sequence_length:3, feature: 4a = torch.arange(24).reshape(2, 3, 4)# b 代表的是: feature: 4 * 4b = a.unsqueeze(2).expand(-1, -1, 4, -1) # shape: torch

https://geasyheart.github.io/2021/06/18/%E7%AE%80%E8%BF%B0%E6%9D%A1%E4%BB%B6%E9%9A%8F%E6%9C%BA%E5%9C%BA/

1. 什么是条件随机场此处忽略。 2. 为什么需要条件随机场对于序列标注任务，此类任务有分词、词性标注等，本质是对每一个字（假设bert做特征提取）进行预测，然后接全连接层进行softmax激活，如下图所示： 以词性标注任务来讲，x表示观测序列，y表示预测序列，即词性分布。 按照中文使用规律来讲，动词后面接动词的可能性基本不存在（或者对于分词任务来讲蝴后面基本就是蝶），而在上述模型中，观测序列没

https://geasyheart.github.io/2019/10/21/MySQL%E8%87%AA%E9%97%AE%E8%87%AA%E7%AD%94/

MySQL 的架构组成以及各层职责？MySQL 是一个分层设计架构，总提上可以分为 Server 层和存储层两层。如下图所示： 其中 Server 层又可以分为连接器，分析器，优化器，执行器四部分，涵盖 MySQL 大多数核心服务功能，以及所有的内置函数，所有跨引擎的功能都在这一层实现。各层负责的事情如下： 连接器：负责和客户端建立连接、获取权限、维持和管理连接，这个期间会负责校验用户身份，身份