博客主要记录各种学习笔记,主要有,PN(papernote),BN(booknote),CN(coursenote)。
一些基础
吴恩达机器学习课程学习笔记,讲的太慢,未完待续。here。
周志华《机器学习》读书笔记,读到贝叶斯分类一半,笔记才到线性回归。here。
斋藤康毅《深度学习入门》,笔记。here。(剩了几篇CNN的相关论文,后续补充到CV论文中)
一些数学
[2015 - ICLR] A METHOD FOR STOCHASTIC OPTIMIZATION。Adam优化,强数学。
NLP
斋藤康毅《深度学习进阶》,笔记至LSTM。here。
[2013 - ICLR] Efficient Estimation of Word Representations in Vector Space。word2vector的开山之作,介绍CBOW以及skip-gram。
[2013 - NIPS] Distributed Representations of Words and Phrases and their Compositionality。上一篇论文的续作。未看。
[2013 - NAACL] Linguistic Regularities in Continuous Space Word Representations。word2vector的经典问题——“king - man + woman = ?”
[2014 - EMNLP] GloVe: Global Vectors for Word Representation。Glove。
[2018 - NAACL] Deep Contextualized Word Representations。未看
[2019 - NAACL] BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding。BERT。
[2020 - ICLR] ALBERT: A LITE BERT FOR SELF-SUPERVISEDLEARNING OF LANGUAGE REPRESENTATIONS。一种轻量级BERT变体,ALBERT。
[2021] Roformer。旋转位置编码。未看。here。
实体抽取
[2015 - ACL] Bidirectional LSTM-CRF Models for Sequence Tagging。BiLSTM+CRF将NER视为序列标记任务。未看。
[2020 - ACL] A Unified MRC Framework for Named Entity Recognition。利用阅读理解任务解决命名实体识别问题。
[2021] Global Pointer: Novel Efficient Span-based Approach for Named Entity Recognition。一种效仿tplink的NER实现。
[2022 - ACL] Parallel Instance Query Network for Named Entity Recognition。PIQN,MRC+BERT。
GNN
GNN入门,here。
GCN入门,here。
偶尔CV
gan
yolo
vae
dqn
resnet
alexnet
kuosanmoxing
clip