๐ป ๋ธ๋ก๊ทธ ์ ๋จ์ฅ ์๋ฃ! ์ด์ ์์ผ ์ปคํผ ํ์์ ์ฌ์ ๋ฅผ...โ — ์๊ฐ ์ด์ ๋ฒ์ ์ ๋ธ๋ก๊ทธ๋ ์คํ์ ์ด๊ณ ์ฌ๋ฏธ์ ์ธ ์๊ฐ ํจ๊ณผ์ ์ค์ ์ ๋์๋ค. 2017๋ 8์ ์ฒ์ ๋ธ๋ก๊ทธ ํฌ์คํธ๋ฅผ ์์์ผ๋ก, ๊ธ์ ์ฐ๋ ๊ณผ์ ์์ ์๊ฐ๋ ์ ๋ฆฌ๊ฐ ๋๊ณ , ์ปค๋ฆฌ์ด์๋ ๋์์ด ๋์๋ค. ๊ทธ๋ฐ ์๋ฏธ์์ ์ด์ ๋ฒ์ ์ ๋ธ๋ก๊ทธ์ ์์ผ ๊ฐ์ฌํ๋ค โ ๋ณต์กํ๊ณ ์นด์ค์ค ์ ์ธ ๋ด ์ถ...
ํด๋ง ๊ณต๊ฐ
ํ์ต์ด ๊ธฐ์ต์ด๋๋ ๊ณต๊ฐ — ํด๋ง(hippocampus) ๋ด๋ถ์์ ์ผ์ด๋๋ ํ์ต ๊ณผ์ ์ ์๊ฐํํ ๋ฉ์ง ์ธํฐ๋ํฐ๋ธ ๋น์ฃผ์ผ๋ผ์ด์ ์ด์ ์ ๋ง๋ค์๋ค (Sun et al., 2025) . ์ง์ ์ํธ์์ฉํ ์ ์๋ค! ํด๋ฆญํ๊ณ ๋๋๊ทธํด์ ํ์ ํด๋ณด์. ์๋ฆ๋ต์ง ์์๊ฐ? ์ค๋ ์์ธ๋ํ๊ต๋ณ์ ์ฌํฌ์ง์์ ํต์ฌ ์๊ฐํ ์๋ฃ ์ค ํ๋๋ก ์ฌ์ฉ๋์๋ค. Natu...
๊ฑฐ๋ ์๋ฃ ์ธ์ด ๋ชจ๋ธ์์ ์ถ๋ก ๊ณผ์ ์ถ์ ํ๊ธฐ
Project Proposal for AI702, and my pesonal passion. — ์๋ก ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)์ ์๋ฃ ์ง์์๋ต(Medical Question Answering) ๊ณผ์ ์์ ํจ๊ณผ์ ์ธ ์ฑ๋ฅ์ ๋ณด์ด๊ณ ์์ผ๋ฉฐ, ํ๊ท ์ ์ธ ์๋ฃ์ง ์์ค ๋๋ ๊ฒฝ์ฐ์ ๋ฐ๋ผ ์ ๋ฌธ์ ์์ค์ ํ์ ํ๋ ๊ฒฐ๊ณผ๋ฅผ ๋ฌ์ฑํ๊ณ ์๋ค. ๋ํ์ ์ธ ์๋ก๋ M...
ํด๋จธ๋ ธ์ด๋ 2025
ํด๋จธ๋ ธ์ด๋ ํํ ๋ฆฌ๋ทฐ — ์์น ์ง๋ฅ(Position Intelligence) ์์ ํ ์ง๋ฅ(Force Intelligence) ์ผ๋ก. [\begin{array}{ccc} \color{goldenrod}{\text{๋ฒ์ฉ ๋ก๋ด}} & \xrightarrow[\text{throughput}]{} & \color{springgr...
ํธ๋์คํฌ๋จธ์์ ๊ฐ์ฅ ์ค์ํ ์์๋?
What is the the most important unit of the transformer — ์ง๊ด์ ์ธ ์๊ฐํ) (LLM Visualization โ Bbycroft.net, n.d.) ๋ฅผ ์ดํด๋ณด์. LLM์ ์ธํฐ๋ํฐ๋ธํ๊ฒ ์๊ฐํํ ์์. ํธ๋์คํฌ๋จธ์์ ๊ฐ์ฅ ์ค์ํ ๊ตฌ์ฑ ์์๋ ๋ฌด์์ผ๊น? ํธ๋์คํฌ๋จธ์์ ๊ฐ์ฅ ์ค์ํ ๊ตฌ์ฑ...
์ค์ผ์ผ ๊ฐ๋ฅํ Q-Learning
Reaction to Seohong's Post on X — ํ์ฅ ๊ฐ๋ฅํ Q-Learning์ ์ฐพ์์ ๋๋ ์ค๋ซ๋์ ๊ฐํํ์ต(Reinforcement Learning)์ ํ์ฅํ ์ ์๋ ๋ฐฉ๋ฒ์ ์ฐพ์์๋ค. ๊ทธ์ค ํฅ๋ฏธ๋ก์ด ํ๋ก์ ํธ ์ค ํ๋๊ฐ starcraft.ai ํ๋ก์ ํธ์ด๋ค. ์ด ์ข๊ฒ๋ DeepMind๊ฐ ์งํํ ์ํฌ์์ ์ฐธ์ํ ๊ธฐํ๊ฐ ์์๊ณ ...
์๋น๋์ ์ ์จ ํฉ์ "์๊ฐํ๋ ๊ธฐ๊ณ"
์ ์จํฉ์ 33๋ ๊ฒฝ์์ฌ๋ฅผ ๋ด์ ์ฒซ ๊ณต์ ์์์ — ์ ์จ ํฉ์ ์ด๋ค ์ฌ๋์ธ๊ฐ. ์ ์จํฉ์ ์์์ โ์๊ฐํ๋ ๊ธฐ๊ณ(์์ : Thinking Machines)โ (Witt et al., 2025) ๋ฅผ ์ฝ๋ ์ค์ด๋ค. ์๋ฌธ์ ์ด๋ฐ ๋ง์ด ์๋ค. Practice even what seems impossible. Marcus Aurelius ...
์กฐ๊ฑด๋ถ ์์ฑ ๋ชจ๋ธ๋ง๋ง์ผ๋ก ์์ฌ๊ฒฐ์ ์ด ๊ฐ๋ฅํ ๊น?
2022๋ ์ ๊ผญ ๋ด์ผ ํ ๋ ผ๋ฌธ ์ค ํ๋์ด๋ค. ์ธ์ ๊ฐ ๋์ฌ๊ฒ์ผ๋ก ์์๋ ๋ฐฉ๋ฒ์ด๋๊น... ์ฌ๊ธฐ์๋ ์์ฌ๊ฒฐ์ ์ ๊ฐํ ํ์ต(RL)์ด ์๋ ์กฐ๊ฑด๋ถ ์์ฑ ๋ชจ๋ธ๋ง์ผ๋ก ๊ตฌ์ฑํ์๋ค. ๊ฐ์ธ์ ์ผ๋ก ๋ก๋ด ์๋ฎฌ๋ ์ด์ ์์์ ์คํ๋ ์งํํ๋ฏ๋ก ๋ ๋ฐฐ๋ก ๊ด์ฌ์ด ์์๋ค. ์ ํต์ ์ธ RL ๋ฐฉ๋ฒ์ ๋ณต์ก์ฑ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ ์ ์๋์ง ๊ถ๊ธํ๋ค. — [\renewcommand{\...
์ผ๋ฐ์ฃผ์ ์ ๊ฒฝ ์๊ณ ๋ฆฌ์ฆ ํ์ต์
์ ๋ ฌ, ๊ฒ์, ๋์ ํ๋ก๊ทธ๋๋ฐ, ๊ฒฝ๋ก ์ฐพ๊ธฐ, ๊ธฐํํ๊ณผ ๊ฐ์ ๋ค์ํ ์๊ณ ๋ฆฌ์ฆ์ ์คํํ๋๋ก ํ์ตํ ์ ์๋ ๋จ์ผ ๊ทธ๋ํ ์ ๊ฒฝ๋ง ํ๋ก์ธ์. — [\renewcommand{\V}[1]{\mathbf{#1}}] ์ ๊ฒฝ ์๊ณ ๋ฆฌ์ฆ ๋ถ์ผ์ ๋ ๋ค๋ฅธ ์ผ๋ฐ์ฃผ์ ํ์ต์ (Ibarz et al., 2022) ๊ฐ ๋์๋ค. Abstract ์ ๊ฒฝ ์๊ณ ๋ฆฌ์ฆ ์ถ๋ก ์...
๊ฐํ (GATO) ๋ ผ๋ฌธ์ ์ฝ์ด๋ณด์!
๐ง ์ํฌ๊ฐํ ๊ฐ ์๋๋ผ ๊ฐํ ๋ค. ๋ฅ๋ง์ธ๋์์ ๋์จ generalist agent ๋ ผ๋ฌธ. — ๊ฐํ . ๋ฅ๋ง์ธ๋์์ ๋์จ generalist AI agent (Reed et al., 2022) ๋ก, GATO์ ์ฝ์๋ ์ ํํ ๋ชจ๋ฅด๊ฒ ๋ค. โGeneralist Agent beyond the realm of Text Outputsโ ์ ๋ ๋์ง ์์๊น ์ถ...
- 1
- 1 / 1