会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
ForHHeart
博客园
首页
新随笔
联系
订阅
管理
随笔 - 39
文章 - 0
评论 - 0
阅读 -
2842
2024年11月24日
Loss Function
摘要: 机器学习的本质 目标函数:Log-likelihood对数似然函数
log
L
(
θ
)
=
∑
n
i
=
1
log
P
(
y
|
x
,
θ
)
log
L
(
θ
)
=
∑
i
=
1
n
log
P
(
y
|
x
,
θ
)
其中,
P
(
y
|
x
,
θ
)
P
(
y
|
x
,
θ
)
:表示似然函数,给定特征
x
x
和参数
θ
θ
,预测类别为 \(
阅读全文
posted @ 2024-11-24 09:27 ForHHeart
阅读(10)
评论(0)
推荐(0)
编辑
Word2Vec
摘要: Word2Vec Word2Vec有两种形式,一种是Skip-gram,另一种是CBOW。 Skip-gram:已知中心词
w
c
w
c
,预测上下文词
w
o
w
o
CBOW:已知上下文词
C
=
{
w
c
−
m
,
…
,
w
c
−
1
,
w
c
+
1
,
…
,
w
c
+
m
}
C
=
{
w
c
−
m
,
…
,
w
c
−
1
,
w
c
+
1
,
…
,
w
c
+
m
}
,预测中心词 \
阅读全文
posted @ 2024-11-24 08:33 ForHHeart
阅读(4)
评论(0)
推荐(0)
编辑
公告
昵称:
ForHHeart
园龄:
2年9个月
粉丝:
0
关注:
0
+加关注
<
2025年3月
>
日
一
二
三
四
五
六
23
24
25
26
27
28
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
1
2
3
4
5
阅读排行榜
1. Distributed Training: DeepSpeed ZeRO 1/2/3 + Accelerate, Megatron-LM(1023)
2. Env Config(359)
3. Mamba(210)
4. Pre-trained Model Summary(184)
5. Quantization: fp16, bf16, int8, fp4, nf4(138)
6. Tokenizer: BPE, WordPiece, and SentencePiece(137)
7. Mixtral 8×7B (Mistral MoE)(89)
8. Navigation Page(53)
9. Python Basic Notes(52)
10. DS/MLE Key Competency and Occupational Classification Concluded from Job Descriptions(46)
11. transformers(45)
12. DS / ML Basic Notes(44)
13. ML / AI Algorithms from Scratch(36)
14. Build Lightweight AI SaaS: Next.js + Tailwind CSS(35)
15. Momentum Contrast (MoCo) for Unsupervised Visual Representation Learning(33)
16. Reinforcement Learning from Human Feedback(RLHF): TRPO, PPO, DPO(32)
17. LeetCode Notes in Python(32)
18. Transformer(27)
19. LeetCode Hot 100(22)
20. Multimodal Large Language Model(MLLM)(20)
21. Retrieval-Augmented Generation(RAG)(20)
22. Text Representation: OneHot, BOW, N-grams, TF-IDF, Word2Vec, Glove, FastText, ELMO, BERT, SBERT(18)
23. RecSys & Ads Basic Notes(18)
24. LLaMA 2(18)
25. SQL Basic Notes(18)
26. BERT(15)
27. Data Structures and Sort Algorithms Notes for Coding Interview(14)
28. PyTorch Basic Notes(13)
29. Self-supervised Learning(12)
30. LLM local deployment: Xinference, Ollama(12)
31. Python Web Dev(11)
32. RNNs & LSTMs & GRUs(11)
33. Loss Function(10)
34. Docker(10)
35. Interview Experience for RecSys & Ads(9)
点击右上角即可分享