Dnotitia

Dnotitia Welcome to Dnotitia, where cutting-edge technology intersects with seamless performance.

๐Ÿฅ‡๋””๋…ธํ‹ฐ์‹œ์•„์˜ '์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€(Seahorse Storage)'๊ฐ€ TTA(ํ•œ๊ตญ์ •๋ณดํ†ต์‹ ๊ธฐ์ˆ ํ˜‘ํšŒ)๋ฅผ ํ†ตํ•ด ์ œ์ถœยท๊ฒ€์ฆ๋œ MLPerfยฎ Storage v3.0์—์„œ 57,619.8 QPS๋ฅผ ๊ธฐ๋กํ•˜๋ฉฐ ๋ฒกํ„ฐDB ์„ฑ๋Šฅ 1์œ„์— ์˜ฌ...
04/09/2026

๐Ÿฅ‡๋””๋…ธํ‹ฐ์‹œ์•„์˜ '์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€(Seahorse Storage)'๊ฐ€ TTA(ํ•œ๊ตญ์ •๋ณดํ†ต์‹ ๊ธฐ์ˆ ํ˜‘ํšŒ)๋ฅผ ํ†ตํ•ด ์ œ์ถœยท๊ฒ€์ฆ๋œ MLPerfยฎ Storage v3.0์—์„œ 57,619.8 QPS๋ฅผ ๊ธฐ๋กํ•˜๋ฉฐ ๋ฒกํ„ฐDB ์„ฑ๋Šฅ 1์œ„์— ์˜ฌ๋ž์Šต๋‹ˆ๋‹ค.
-
โญ๏ธ ์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€๋Š” AI ํ•™์Šต(Training), Checkpointing, KV Cache, Vector DB ๋“ฑ 4๊ฐœ AI ์›Œํฌ๋กœ๋“œ๋ฅผ ํ•˜๋‚˜์˜ ๋‹ค์ค‘ ๋…ธ๋“œ ๋ถ„์‚ฐ ์Šคํ† ๋ฆฌ์ง€ ์•„ํ‚คํ…์ฒ˜์—์„œ ์ˆ˜ํ–‰ํ•˜๋ฉฐ, ๋‹ค์–‘ํ•œ AI ํ™˜๊ฒฝ์— ๋Œ€์‘ํ•  ์ˆ˜ ์žˆ๋Š” ๊ธฐ์ˆ  ์—ญ๋Ÿ‰๋„ ํ•จ๊ป˜ ๋ณด์—ฌ์คฌ์Šต๋‹ˆ๋‹ค.
-
๐Ÿ”— ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ธฐ:
[ํ…Œํฌ์›”๋“œ] ๋””๋…ธํ‹ฐ์‹œ์•„ '์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€', MLํผํ”„ ์Šคํ† ๋ฆฌ์ง€ ๋ฒกํ„ฐDB ์„ฑ๋Šฅ 1์œ„
https://www.epnc.co.kr/news/articleView.html?idxno=406467
[์ „์ž์‹ ๋ฌธ] ๋””๋…ธํ‹ฐ์‹œ์•„ '์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€', MLPerf ์Šคํ† ๋ฆฌ์ง€ v3.0 ๋ฒกํ„ฐDB ์„ฑ๋Šฅ 1์œ„
https://www.etnews.com/20260903000236
[์•„์ดํ‹ฐ๋ฐ์ผ๋ฆฌ] ๋””๋…ธํ‹ฐ์‹œ์•„ '์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€', MLํผํ”„ ๋ฒกํ„ฐDB ์„ฑ๋Šฅ 1์œ„
https://www.itdaily.kr/news/articleView.html?idxno=241380
[์ง€๋””๋„ท์ฝ”๋ฆฌ์•„] ๋””๋…ธํ‹ฐ์‹œ์•„ '์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€', ๊ธ€๋กœ๋ฒŒ ๋ฒค์น˜๋งˆํฌ 'MLPerf' ๋ฒกํ„ฐDB ํ‰๊ฐ€ 1์œ„
https://zdnet.co.kr/view/?no=20260903140617
[ํ—ฌ๋กœํ‹ฐ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€ ๋‹จ์ผ ์ธํ”„๋ผ์„œ AI ํ•™์Šตยท์ถ”๋ก ยท๊ฒ€์ƒ‰ ๋ฒ”์šฉ์„ฑ ์ž…์ฆ
https://www.hellot.net/news/article.html?no=114755
[๋””์ง€ํ„ธ๋ฐ์ผ๋ฆฌ] ๋””๋…ธํ‹ฐ์‹œ์•„ '์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€', MLํผํ”„ ๋ฒกํ„ฐDB ์„ฑ๋Šฅ 1์œ„
https://www.ddaily.co.kr/page/view/2026090314170413002
[๋ฐ์ดํ„ฐ๋„ท] ๋””๋…ธํ‹ฐ์‹œ์•„ โ€˜์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€โ€™, MLPerf ์Šคํ† ๋ฆฌ์ง€ v3.0 ๋ฒกํ„ฐDB ํ‰๊ฐ€ โ€˜1์œ„โ€™
https://www.datanet.co.kr/news/articleView.html?idxno=214232
[์ด์ฝ”๋…ธ๋ฏน๋ฆฌ๋ทฐ] ๋””๋…ธํ‹ฐ์‹œ์•„ ์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€, ๊ธ€๋กœ๋ฒŒ AI ๋ฒค์น˜๋งˆํฌ ๋ฒกํ„ฐDB ์ฒ˜๋ฆฌ๋Ÿ‰ 1์œ„
https://www.econovill.com/news/articleView.html?idxno=749779
[๋งˆ์ผ๋“œ๊ฒฝ์ œ] ๋””๋…ธํ‹ฐ์‹œ์•„ '์”จํ™€์Šค ์Šคํ† ๋ฆฌ์ง€' MLPerfยฎ Storage v3.0 ๋ฒกํ„ฐDB ์„ฑ๋Šฅ 1์œ„
https://www.todaymild.com/news/articleView.html?idxno=38194

LLM ์„ฑ๋Šฅ์˜ ๋ณ‘๋ชฉ์€ ์˜์™ธ๋กœ 'ํ† ํฌ๋‚˜์ด์ €'์— ์žˆ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.-LLM์˜ ์„ฑ๋Šฅ๊ณผ ํšจ์œจ์„ ์ด์•ผ๊ธฐํ•  ๋•Œ ๋ณดํ†ต ๋ชจ๋ธ ๊ตฌ์กฐ๋‚˜ GPU, ์ถ”๋ก  ์—”์ง„์„ ๋จผ์ € ๋– ์˜ฌ๋ฆฌ์ง€๋งŒ, ๋ชจ๋ธ์— ์ž…๋ ฅ์ด ๋“ค์–ด๊ฐ€๊ธฐ ์ „ ๋‹จ๊ณ„์ธ ํ† ํฐํ™”(Tokenizat...
03/09/2026

LLM ์„ฑ๋Šฅ์˜ ๋ณ‘๋ชฉ์€ ์˜์™ธ๋กœ 'ํ† ํฌ๋‚˜์ด์ €'์— ์žˆ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
-
LLM์˜ ์„ฑ๋Šฅ๊ณผ ํšจ์œจ์„ ์ด์•ผ๊ธฐํ•  ๋•Œ ๋ณดํ†ต ๋ชจ๋ธ ๊ตฌ์กฐ๋‚˜ GPU, ์ถ”๋ก  ์—”์ง„์„ ๋จผ์ € ๋– ์˜ฌ๋ฆฌ์ง€๋งŒ, ๋ชจ๋ธ์— ์ž…๋ ฅ์ด ๋“ค์–ด๊ฐ€๊ธฐ ์ „ ๋‹จ๊ณ„์ธ ํ† ํฐํ™”(Tokenization) ์—ญ์‹œ ์ „์ฒด ์‹œ์Šคํ…œ ๋น„์šฉ๊ณผ ์„ฑ๋Šฅ์— ํฐ ์˜ํ–ฅ์„ ์ค„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
-
์ด๋ฒˆ ๋ฏธ๋””์—„ ๋ธ”๋กœ๊ทธ์—์„œ๋Š” ํ† ํฌ๋‚˜์ด์ €๋ฅผ ํ‰๊ฐ€ํ•  ๋•Œ ์‚ดํŽด๋ด์•ผ ํ•  bit-per-byte, ํ† ํฌ๋‚˜์ด์ € ์„ค๊ณ„ ๋ฐฉ์‹์— ๋”ฐ๋ฅธ ์ฐจ์ด, ๊ทธ๋ฆฌ๊ณ  ๋ถˆํ•„์š”ํ•œ ํ† ํฐ ์ƒ์„ฑ์„ ์ค„์ด๊ธฐ ์œ„ํ•œ CaseOps ์ ‘๊ทผ๋ฒ• ๋“ฑ์„ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.
-
๊ฐ™์€ ๋ฌธ์žฅ์ด๋ผ๋„ ์–ด๋–ป๊ฒŒ ํ† ํฐํ™”ํ•˜๋А๋ƒ์— ๋”ฐ๋ผ ์‹œํ€€์Šค ๊ธธ์ด๊ฐ€ ๋‹ฌ๋ผ์ง€๊ณ , ์ด๋Š” ๊ณง ์—ฐ์‚ฐ๋Ÿ‰๊ณผ ์ถ”๋ก  ๋น„์šฉ์˜ ์ฐจ์ด๋กœ ์ด์–ด์ง‘๋‹ˆ๋‹ค.
-
์ž์„ธํ•œ ๋‚ด์šฉ์€ Medium์—์„œ ํ™•์ธํ•ด ๋ณด์„ธ์š”!
๐Ÿ”— https://medium.com//the-tokenizer-was-the-bottleneck-part-1-why-tokenization-is-the-quiet-lever-and-a-graveyard-of-ff37b243c81e?sharedUserId=dnotitia

#๋””๋…ธํ‹ฐ์‹œ์•„

๐Ÿ’ก AI ์‹œ๋Œ€, ๋” ๋น ๋ฅธ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ ์Šคํ† ๋ฆฌ์ง€ ์ธํ”„๋ผ๋Š” ์–ด๋–ป๊ฒŒ ๋‹ฌ๋ผ์ ธ์•ผ ํ• ๊นŒ์š”?-๐Ÿ”ธ ์˜ค๋Š˜ KCD x Ceph x OpenInfra Day Korea 2026์—์„œ ๋””๋…ธํ‹ฐ์‹œ์•„ ์Šคํ† ๋ฆฌ์ง€ํŒ€์˜ ์–‘๋Œ€๊ณค ํŒ€์žฅ์ด AI ์›Œํฌ...
01/09/2026

๐Ÿ’ก AI ์‹œ๋Œ€, ๋” ๋น ๋ฅธ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ ์Šคํ† ๋ฆฌ์ง€ ์ธํ”„๋ผ๋Š” ์–ด๋–ป๊ฒŒ ๋‹ฌ๋ผ์ ธ์•ผ ํ• ๊นŒ์š”?
-
๐Ÿ”ธ ์˜ค๋Š˜ KCD x Ceph x OpenInfra Day Korea 2026์—์„œ ๋””๋…ธํ‹ฐ์‹œ์•„ ์Šคํ† ๋ฆฌ์ง€ํŒ€์˜ ์–‘๋Œ€๊ณค ํŒ€์žฅ์ด AI ์›Œํฌ๋กœ๋“œ๋ฅผ ์œ„ํ•œ CephFS ๋ฐ์ดํ„ฐ ์ „์†ก ์„ฑ๋Šฅ ๊ฐœ์„  ์‚ฌ๋ก€๋ฅผ ๋ฐœํ‘œํ–ˆ์Šต๋‹ˆ๋‹ค. ๐Ÿ™Œ
-
๐Ÿ”ธ AI ํ•™์Šต๊ณผ ์ถ”๋ก ์— ํ•„์š”ํ•œ ๋ฐ์ดํ„ฐ ๊ทœ๋ชจ๊ฐ€ ๋น ๋ฅด๊ฒŒ ์ฆ๊ฐ€ํ•˜๋ฉด์„œ, ๋Œ€๊ทœ๋ชจ ๋ฐ์ดํ„ฐ๋ฅผ ๋น ๋ฅด๊ณ  ํšจ์œจ์ ์œผ๋กœ ์ฒ˜๋ฆฌํ•˜๋Š” ์—ญ๋Ÿ‰์ด AI ์ธํ”„๋ผ์—์„œ ๋”์šฑ ์ค‘์š”ํ•ด์ง€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
ํŠนํžˆ ๋ฐ์ดํ„ฐ ์ด๋™ ๊ณผ์ •์—์„œ ๋ฐœ์ƒํ•˜๋Š” CPU ๋ถ€๋‹ด๊ณผ ๋ณ‘๋ชฉ์„ ์ค„์ด๋Š” ๊ฒƒ์ด ์Šคํ† ๋ฆฌ์ง€ ์„ฑ๋Šฅ์„ ๋†’์ด๋Š” ํ•ต์‹ฌ ๊ณผ์ œ์ž…๋‹ˆ๋‹ค.
-
๐Ÿ”ธ ํ˜„์žฌ CephFS ์ปค๋„ ํด๋ผ์ด์–ธํŠธ๋Š” TCP ๊ธฐ๋ฐ˜ ์ „์†ก๋งŒ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.
์ด๋ฅผ ์œ„ํ•ด ๋””๋…ธํ‹ฐ์‹œ์•„๋Š” Linux ์ปค๋„ ํด๋ผ์ด์–ธํŠธ์™€ Ceph ์„œ๋ฒ„์˜ ์ „์†ก ๊ณ„์ธต(Messenger)์— RDMA ๊ฒฝ๋กœ๋ฅผ ๊ตฌํ˜„ํ•ด ๋ฐ์ดํ„ฐ๋ฅผ NIC์—์„œ ๋ฉ”๋ชจ๋ฆฌ๋กœ ์ง์ ‘ ์ „๋‹ฌํ•˜๊ณ , ์“ฐ๊ธฐ ๊ฒฝ๋กœ์˜ CPU ๋ณต์‚ฌ๋ฅผ 5ํšŒ์—์„œ 1ํšŒ๋กœ ์ค„์˜€์Šต๋‹ˆ๋‹ค.
-
๋™์ผํ•œ 400G InfiniBand ํ™˜๊ฒฝ์—์„œ ๊ธฐ์กด TCP ๊ธฐ๋ฐ˜ ์ „์†ก ๋ฐฉ์‹ ๋Œ€๋น„,
๐Ÿ‘‰ Random Read ์ตœ๋Œ€ 1.85๋ฐฐ
๐Ÿ‘‰ Random Write ์ตœ๋Œ€ 3.25๋ฐฐ ์˜ ์„ฑ๋Šฅ ํ–ฅ์ƒ์„ ๊ธฐ๋กํ–ˆ์Šต๋‹ˆ๋‹ค.
-
๐Ÿ”ธ ์ด๋ฒˆ ๋ฐœํ‘œ์—์„œ ์ฃผ๋ชฉํ•œ ๊ฒƒ์€ ๋‹จ์ˆœํ•œ ์†๋„ ํ–ฅ์ƒ๋งŒ์ด ์•„๋‹™๋‹ˆ๋‹ค.
AI ์›Œํฌ๋กœ๋“œ์— ํ•„์š”ํ•œ ๋Œ€๊ทœ๋ชจ ๋ฐ์ดํ„ฐ๋ฅผ ๋” ๋น ๋ฅด๊ฒŒ ์ „๋‹ฌํ•˜๊ธฐ ์œ„ํ•ด ์Šคํ† ๋ฆฌ์ง€์™€ ๋„คํŠธ์›Œํฌ์˜ ๋ฐ์ดํ„ฐ ๊ฒฝ๋กœ ์ž์ฒด๋ฅผ ์–ด๋–ป๊ฒŒ ์ตœ์ ํ™”ํ•  ๊ฒƒ์ธ๊ฐ€์— ๋Œ€ํ•œ ๋””๋…ธํ‹ฐ์‹œ์•„์˜ ๊ธฐ์ˆ ์  ์ ‘๊ทผ์„ ๊ณต์œ ํ–ˆ๋‹ค๋Š” ๋ฐ ์˜๋ฏธ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค.
-
๐Ÿ”ธ ๋ฐœํ‘œ์™€ ํ•จ๊ป˜ ํ˜„์žฅ ๋ถ€์Šค์—์„œ๋Š” ๋””๋…ธํ‹ฐ์‹œ์•„์˜ AI ์Šคํ† ๋ฆฌ์ง€ ์†”๋ฃจ์…˜๊ณผ ๊ด€๋ จ ๊ธฐ์ˆ ๋„ ๋งŒ๋‚˜๋ณด์‹ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
-
๐Ÿ”ธ ๋””๋…ธํ‹ฐ์‹œ์•„๋Š” ์•ž์œผ๋กœ๋„ ์Šคํ† ๋ฆฌ์ง€์™€ ๋„คํŠธ์›Œํฌ, ๋ฐ˜๋„์ฒด์™€ ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์•„์šฐ๋ฅด๋Š” ๊ธฐ์ˆ ์„ ๋ฐ”ํƒ•์œผ๋กœ AI ์›Œํฌ๋กœ๋“œ์— ์ตœ์ ํ™”๋œ ๋ฐ์ดํ„ฐ ์ธํ”„๋ผ๋ฅผ ์ง€์†์ ์œผ๋กœ ๊ณ ๋„ํ™”ํ•ด ๋‚˜๊ฐ€๊ฒ ์Šต๋‹ˆ๋‹ค.
-

AI๊ฐ€ ๋‹ต๋ณ€์„ ์ƒ์„ฑํ•˜๋Š” ๋‹จ๊ณ„๋ฅผ ๋„˜์–ด ์Šค์Šค๋กœ ํŒ๋‹จํ•˜๊ณ  ์—…๋ฌด๋ฅผ ์ˆ˜ํ–‰ํ•˜๋Š” AI ์—์ด์ „ํŠธ์˜ ์‹œ๋Œ€๋กœ ๋น ๋ฅด๊ฒŒ ๋„˜์–ด๊ฐ€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋งŒํผ ๊ธฐ์—…์ด ๋ณด์œ ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ AI๊ฐ€ ์ œ๋Œ€๋กœ ์ฐพ๊ณ  ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ๋งŒ๋“œ๋Š” ๋ฐ์ดํ„ฐ ์ธํ”„๋ผ์˜ ์ค‘์š”์„ฑ...
30/08/2026

AI๊ฐ€ ๋‹ต๋ณ€์„ ์ƒ์„ฑํ•˜๋Š” ๋‹จ๊ณ„๋ฅผ ๋„˜์–ด ์Šค์Šค๋กœ ํŒ๋‹จํ•˜๊ณ  ์—…๋ฌด๋ฅผ ์ˆ˜ํ–‰ํ•˜๋Š” AI ์—์ด์ „ํŠธ์˜ ์‹œ๋Œ€๋กœ ๋น ๋ฅด๊ฒŒ ๋„˜์–ด๊ฐ€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋งŒํผ ๊ธฐ์—…์ด ๋ณด์œ ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ AI๊ฐ€ ์ œ๋Œ€๋กœ ์ฐพ๊ณ  ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ๋งŒ๋“œ๋Š” ๋ฐ์ดํ„ฐ ์ธํ”„๋ผ์˜ ์ค‘์š”์„ฑ๋„ ์ปค์ง€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
-
IT๋™์•„๊ฐ€ ๋””๋…ธํ‹ฐ์‹œ์•„ ์ด์žฅ์› ์‚ฌ์—…๊ฐœ๋ฐœ๊ทธ๋ฃน์žฅ๊ณผ์˜ ์ธํ„ฐ๋ทฐ๋ฅผ ํ†ตํ•ด ๋ฒกํ„ฐDB๋ฅผ ์ค‘์‹ฌ์œผ๋กœ ํ•œ ์”จํ™€์Šค ํด๋ผ์šฐ๋“œ์˜ ๊ธฐ์ˆ ๊ณผ ์‹ค์ œ ํ™œ์šฉ ์‚ฌ๋ก€๋ฅผ ์†Œ๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. ์”จํ™€์Šค ํด๋ผ์šฐ๋“œ๋Š” ๊ธฐ์—…์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์ „์ฒ˜๋ฆฌํ•˜๊ณ  ์ €์žฅํ•˜๋Š” ๋‹จ๊ณ„๋ถ€ํ„ฐ ์˜๋ฏธ ๊ธฐ๋ฐ˜ ๊ฒ€์ƒ‰, AI ์—์ด์ „ํŠธ ๊ตฌ์ถ•๊ณผ ์šด์˜๊นŒ์ง€ ํ•˜๋‚˜์˜ ํ๋ฆ„์œผ๋กœ ์—ฐ๊ฒฐํ•ฉ๋‹ˆ๋‹ค. ํผ๋ธ”๋ฆญ ํด๋ผ์šฐ๋“œ๋Š” ๋ฌผ๋ก  ํ”„๋ผ์ด๋น— ํด๋ผ์šฐ๋“œ์™€ ์˜จํ”„๋ ˆ๋ฏธ์Šค ํ™˜๊ฒฝ์—๋„ ์ ์šฉํ•  ์ˆ˜ ์žˆ์–ด ๊ธฐ์—…์˜ ๋ฐ์ดํ„ฐ์™€ ๋ณด์•ˆ ํ™˜๊ฒฝ์— ๋งž๋Š” AI ๊ตฌ์ถ•์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.
-
๊ธฐ์‚ฌ์—์„œ๋Š” ๊ธˆ์œต, ๋ฐฉ์‚ฐ, AI ์ปจํƒ์„ผํ„ฐ, ๋Œ€ํ•™ ๊ต์œก ํ˜„์žฅ ๋“ฑ ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์—์„œ ์”จํ™€์Šค ํด๋ผ์šฐ๋“œ๊ฐ€ ํ™œ์šฉ๋˜๊ณ  ์žˆ๋Š” ์‚ฌ๋ก€๋„ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
-
๐Ÿ”— ๊ธฐ์‚ฌ๋ณด๊ธฐ:
"AI ์—์ด์ „ํŠธ ์‹œ๋Œ€ ํ•ต์‹ฌ์€ ๋ฒกํ„ฐDB"ยทยทยท ๋””๋…ธํ‹ฐ์‹œ์•„๊ฐ€ ์ œ์•ˆํ•˜๋Š” ์”จํ™€์Šคํด๋ผ์šฐ๋“œ ๊ธฐ๋ฐ˜ ํ˜์‹ ์€?
https://it.donga.com/109385/

120B ๊ทœ๋ชจ์˜ MoE ๋ชจ๋ธ์„ ๋‹จ์ผ ์†Œ๋น„์ž์šฉ GPU์—์„œ ๊ตฌ๋™ํ•˜๊ธฐ ์œ„ํ•œ Aether์˜ ๊ธฐ์ˆ  ์ด์•ผ๊ธฐ๊ฐ€ Part 4๋ฅผ ๋์œผ๋กœ ๋งˆ๋ฌด๋ฆฌ๋ฉ๋‹ˆ๋‹ค.-์ด๋ฒˆ ์‹œ๋ฆฌ์ฆˆ์—์„œ๋Š” Aether์˜ ์ถ”๋ก  ์—”์ง„์ด ์–ด๋–ป๊ฒŒ ๋™์ž‘ํ•˜๋Š”์ง€๋ฅผ ๋‹จ๊ณ„๋ณ„๋กœ ์†Œ๊ฐœํ–ˆ์Šต...
26/08/2026

120B ๊ทœ๋ชจ์˜ MoE ๋ชจ๋ธ์„ ๋‹จ์ผ ์†Œ๋น„์ž์šฉ GPU์—์„œ ๊ตฌ๋™ํ•˜๊ธฐ ์œ„ํ•œ Aether์˜ ๊ธฐ์ˆ  ์ด์•ผ๊ธฐ๊ฐ€ Part 4๋ฅผ ๋์œผ๋กœ ๋งˆ๋ฌด๋ฆฌ๋ฉ๋‹ˆ๋‹ค.
-
์ด๋ฒˆ ์‹œ๋ฆฌ์ฆˆ์—์„œ๋Š” Aether์˜ ์ถ”๋ก  ์—”์ง„์ด ์–ด๋–ป๊ฒŒ ๋™์ž‘ํ•˜๋Š”์ง€๋ฅผ ๋‹จ๊ณ„๋ณ„๋กœ ์†Œ๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค.
โœ… Part 1์—์„œ๋Š” CPU์™€ GPU์˜ ์—ญํ•  ๋ถ„๋‹ด๊ณผ Prefill ์‹คํ–‰ ๋ฐฉ์‹์„, โœ… Part 2์—์„œ๋Š” Decode ๋‹จ๊ณ„์˜ CPU ๊ธฐ๋ฐ˜ Expert ์—ฐ์‚ฐ๊ณผ CPUยทGPU Hybrid Dispatch๋ฅผ ์‚ดํŽด๋ดค์Šต๋‹ˆ๋‹ค.
โœ… Part 3์—์„œ๋Š” GPU์™€ Host Memory๋ฅผ ํ™œ์šฉํ•œ Memory Management์™€ KV Cache, Offloading ๋ฐฉ์‹์„ ๋‹ค๋ค˜์Šต๋‹ˆ๋‹ค.
-
โœ… ๋งˆ์ง€๋ง‰ Part 4์—์„œ๋Š” ์•ž์„  ๋‚ด์šฉ์„ ๋ฐ”ํƒ•์œผ๋กœ Aether์˜ ๊ฒฐ๊ณผ์™€ ํ•œ๊ณ„, ๊ทธ๋ฆฌ๊ณ  ์•ž์œผ๋กœ์˜ ๋ฐฉํ–ฅ์„ ์ •๋ฆฌํ•ฉ๋‹ˆ๋‹ค.
-
Aether ๊ธฐ์ˆ  ๋ธ”๋กœ๊ทธ ์‹œ๋ฆฌ์ฆˆ์˜ ๋งˆ์ง€๋ง‰ ์ด์•ผ๊ธฐ๋ฅผ Medium์—์„œ ํ™•์ธํ•ด ๋ณด์„ธ์š”.
๐Ÿ”— https://medium.com//aether-results-limitations-and-whats-next-running-a-120b-moe-on-a-single-consumer-gpu-part-28797d948bb0

#๋””๋…ธํ‹ฐ์‹œ์•„

In Part 1, we introduced Aether and the core ideas behind running a 120B MoE model on a single consumer GPU. In Part 2, we exploredโ€ฆ

์˜ค๋Š” 9์›” AI Infra Summit 2026์„ ์•ž๋‘๊ณ , ๋””๋…ธํ‹ฐ์‹œ์•„์˜ ์–‘์„ธํ˜„ CTO๊ฐ€ AI Infra Summit 2026 Expo Theater ๋ฌด๋Œ€์— ์˜ค๋ฆ…๋‹ˆ๋‹ค. ๐Ÿ™Œ -๐Ÿ”ถ  ์–‘์„ธํ˜„ CTO๋Š” ํ”„๋กœ์„ธ์„œยท๊ฐ€์†๊ธฐยท์‹œ์Šคํ…œ...
26/08/2026

์˜ค๋Š” 9์›” AI Infra Summit 2026์„ ์•ž๋‘๊ณ , ๋””๋…ธํ‹ฐ์‹œ์•„์˜ ์–‘์„ธํ˜„ CTO๊ฐ€ AI Infra Summit 2026 Expo Theater ๋ฌด๋Œ€์— ์˜ค๋ฆ…๋‹ˆ๋‹ค. ๐Ÿ™Œ
-
๐Ÿ”ถ ์–‘์„ธํ˜„ CTO๋Š” ํ”„๋กœ์„ธ์„œยท๊ฐ€์†๊ธฐยท์‹œ์Šคํ…œ ์„ค๊ณ„ ๋ถ„์•ผ์—์„œ 20๋…„ ์ด์ƒ์˜ ๊ฒฝํ—˜์„ ๋ณด์œ ํ•œ ๋ฐ˜๋„์ฒด ๋ฐ ์ปดํ“จํŒ… ์•„ํ‚คํ…์ฒ˜ ์ „๋ฌธ๊ฐ€์ž…๋‹ˆ๋‹ค.
-
๐Ÿ”ถ ์–‘์„ธํ˜„ CTO๋Š” 20๋…„ ์ด์ƒ ํ”„๋กœ์„ธ์„œยท๊ฐ€์†๊ธฐยท์‹œ์Šคํ…œ ์•„ํ‚คํ…์ฒ˜๋ฅผ ์„ค๊ณ„ํ•ด ์˜จ ๋ฐ˜๋„์ฒด ์ „๋ฌธ๊ฐ€์ž…๋‹ˆ๋‹ค.
-
๐Ÿ”ถ ํ˜„์žฌ ๋””๋…ธํ‹ฐ์‹œ์•„์—์„œ๋Š” ์ด๋Ÿฌํ•œ ๊ฒฝํ—˜์„ ๋ฐ”ํƒ•์œผ๋กœ ์ „์šฉ ๋ฐ˜๋„์ฒด์™€ ์ตœ์ ํ™”๋œ ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ๊ฒฐํ•ฉํ•ด, ์ฐจ์„ธ๋Œ€ AI ์ธํ”„๋ผ๋ฅผ ์œ„ํ•œ ๊ธฐ์ˆ  ๊ฐœ๋ฐœ์„ ์ด๋Œ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
-
๐Ÿ”ถ ์ด๋ฒˆ ์„ธ์…˜์—์„œ๋Š” โ€œRethinking AI Infrastructure with Dedicated Vector Siliconโ€์„ ์ฃผ์ œ๋กœ, AI ์ธํ”„๋ผ์™€ ์ „์šฉ ๋ฒกํ„ฐ ์‹ค๋ฆฌ์ฝ˜์˜ ๊ฒฐํ•ฉ ๊ฐ€๋Šฅ์„ฑ์— ๋Œ€ํ•œ ๋””๋…ธํ‹ฐ์‹œ์•„์˜ ๊ธฐ์ˆ ์  ๊ด€์ ๊ณผ ๋ฐฉํ–ฅ์„ฑ์„ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค.
-
AI ์ธํ”„๋ผ์™€ ์ฐจ์„ธ๋Œ€ ๋ฐ˜๋„์ฒด ๊ธฐ์ˆ ์˜ ์ƒˆ๋กœ์šด ๊ฐ€๋Šฅ์„ฑ์— ๊ด€์‹ฌ ์žˆ๋Š” ๋ถ„๋“ค์˜ ๋งŽ์€ ๊ด€์‹ฌ ๋ถ€ํƒ๋“œ๋ฆฝ๋‹ˆ๋‹ค.
-
์˜ค๋Š” 9์›”, AI Infra Summit 2026์—์„œ ๋งŒ๋‚˜ ๋ต™๊ฒ ์Šต๋‹ˆ๋‹ค.

๐Ÿ“Expo Theater | AI Infra Summit 2026
๐Ÿ—“๏ธSep 15, 2026 | 11:30โ€“11:45 AM

๋””๋…ธํ‹ฐ์‹œ์•„๊ฐ€ ์‹ค์ œ ์‚ฐ์—… ํ˜„์žฅ์—์„œ ์ถ•์ ํ•œ AI ๊ตฌ์ถ• ๊ฒฝํ—˜์„ ๋” ๋„“์€ ์‹œ์žฅ์œผ๋กœ ํ™•์žฅํ•ฉ๋‹ˆ๋‹ค. -์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ์˜ ๊ธฐ์—… ๊ณ ๊ฐ ๋ฐ ํŒŒํŠธ๋„ˆ ๋„คํŠธ์›Œํฌ๋ฅผ ํ†ตํ•ด ๊ณ ๊ฐ ์ ‘์ ๊ณผ ์‚ฌ์—…ํ™” ์ฑ„๋„์„ ๋„“ํžˆ๊ณ , ์ƒˆ๋กœ์šด ์‚ฐ์—…๋ณ„ AI ๊ณผ์ œ๋ฅผ ๋ฐœ๊ตดํ•ฉ๋‹ˆ๋‹ค....
24/08/2026

๋””๋…ธํ‹ฐ์‹œ์•„๊ฐ€ ์‹ค์ œ ์‚ฐ์—… ํ˜„์žฅ์—์„œ ์ถ•์ ํ•œ AI ๊ตฌ์ถ• ๊ฒฝํ—˜์„ ๋” ๋„“์€ ์‹œ์žฅ์œผ๋กœ ํ™•์žฅํ•ฉ๋‹ˆ๋‹ค.
-
์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ์˜ ๊ธฐ์—… ๊ณ ๊ฐ ๋ฐ ํŒŒํŠธ๋„ˆ ๋„คํŠธ์›Œํฌ๋ฅผ ํ†ตํ•ด ๊ณ ๊ฐ ์ ‘์ ๊ณผ ์‚ฌ์—…ํ™” ์ฑ„๋„์„ ๋„“ํžˆ๊ณ , ์ƒˆ๋กœ์šด ์‚ฐ์—…๋ณ„ AI ๊ณผ์ œ๋ฅผ ๋ฐœ๊ตดํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ์ˆ  ๊ฒ€์ฆ๋ถ€ํ„ฐ ๊ณ ๊ฐ ์ œ์•ˆ, ๊ตฌ์ถ•๊ณผ ์šด์˜๊นŒ์ง€ ์ด์–ด์ง€๋Š” ํ˜‘๋ ฅ์„ ํ†ตํ•ด ํ˜„์žฅ์—์„œ ๊ฒ€์ฆํ•œ ๊ตฌ์ถ• ๋ชจ๋ธ์„ ๋” ๋งŽ์€ ๊ธฐ์—…๊ณผ ์—ฐ๊ฒฐํ•  ๊ณ„ํš์ž…๋‹ˆ๋‹ค. ์ด๋ฒˆ ๊ธฐ์‚ฌ์—์„œ๋Š” ๋””๋…ธํ‹ฐ์‹œ์•„๊ฐ€ ์‹ค์ œ ๊ธฐ์—… ์—…๋ฌด์— ์ ์šฉํ•œ ์ฃผ์š” ๊ตฌ์ถ• ์‚ฌ๋ก€ ์„ธ ๊ฐ€์ง€๋„ ํ•จ๊ป˜ ๊ณต๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค.

โ†— ํ•ญ๊ณต์šฐ์ฃผยท๋ฐฉ์‚ฐ ๊ธฐ์—…
๋‚ด๋ถ€ ๋ฐ์ดํ„ฐ์™€ ์—…๋ฌด ์‹œ์Šคํ…œ์„ ์—ฐ๊ฒฐํ•˜๊ณ , ๋ณด์•ˆ๋ง ํ™˜๊ฒฝ์—์„œ ์‚ฌ๋‚ด ์ง€์‹๊ณผ ๊ทœ์ •์„ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ๊ตฌ์ถ•ํ•œ ์—…๋ฌด์šฉ AI ์—์ด์ „ํŠธ ํฌํ„ธ

โ†— ๊ตญ๋‚ด ํšŒ๊ณ„๋ฒ•์ธ
์„ธ๋ฌดยทํšŒ๊ณ„ยท๋ฒ•๋ฅ  ๊ด€๋ จ ๋ฒ•๋ น๊ณผ ์˜ˆ๊ทœ, ํŒ๋ก€, ํ•ด์„ ์ž๋ฃŒ๋ฅผ ์ž์—ฐ์–ด๋กœ ๊ฒ€์ƒ‰ํ•˜๊ณ  ๋ถ„์„ยท์š”์•ฝํ•˜๋Š” RAG ๊ธฐ๋ฐ˜ AI ๋ธŒ๋ฆฌํ•‘ ์„œ๋น„์Šค

โ†— ์ž๋™์ฐจ ์ œ์กฐ๊ธฐ์—…
๋Œ€๊ทœ๋ชจ ๊ณ ๊ฐ ์ธํ„ฐ๋ทฐ์™€ ๊ณ ๊ฐ์˜ ์†Œ๋ฆฌ(VoC)๋ฅผ ์ž๋™์œผ๋กœ ๋ถ„์„ํ•˜๊ณ , ํ•„์š”ํ•œ ์ธ์‚ฌ์ดํŠธ๋ฅผ ๋น ๋ฅด๊ฒŒ ๋„์ถœํ•  ์ˆ˜ ์žˆ๋„๋ก ๊ตฌ์ถ•ํ•œ UX ๋ฆฌ์„œ์น˜ ์„œ๋น„์Šค
-
์‚ฐ์—…๊ณผ ์—…๋ฌด๋Š” ์„œ๋กœ ๋‹ค๋ฅด์ง€๋งŒ ๊ณตํ†ต์ ์€ ๋ถ„๋ช…ํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ์—…์ด ๋ณด์œ ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ํ•„์š”ํ•œ ์ˆœ๊ฐ„์— ์ฐพ๊ณ , ๋ถ„์„ํ•˜๊ณ , ์‹ค์ œ ์—…๋ฌด์— ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ๊ตฌํ˜„ํ–ˆ๋‹ค๋Š” ์ ์ž…๋‹ˆ๋‹ค.
-
๋””๋…ธํ‹ฐ์‹œ์•„๋Š” ๋ฒกํ„ฐ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค์™€ AI ์—์ด์ „ํŠธ, AI ๋ฐ์ดํ„ฐ ์ธํ”„๋ผ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์ถ•์ ํ•œ ๊ตฌ์ถ• ๊ฒฝํ—˜์„ ๋” ๋‹ค์–‘ํ•œ ์‚ฐ์—… ํ˜„์žฅ์œผ๋กœ ํ™•์žฅํ•ด ๋‚˜๊ฐ€๊ฒ ์Šต๋‹ˆ๋‹ค.
-
๐Ÿ”— ๊ธฐ์‚ฌ๋ณด๊ธฐ:
[๋จธ๋‹ˆํˆฌ๋ฐ์ด] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ 'AI ์–ผ๋ผ์ด์–ธ์Šค' ํ•ฉ๋ฅ˜โ€ฆํ˜‘์—… ํ™•๋Œ€
https://www.mt.co.kr/future/2026/08/18/2026081810172640811
[์ „์ž์‹ ๋ฌธ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šค ํ•ฉ๋ฅ˜
https://www.etnews.com/20260818000122
[๋””์ง€ํ„ธํˆฌ๋ฐ์ด] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šค ํ•ฉ๋ฅ˜โ€ฆ์‚ฐ์—…๋ณ„ AI ๊ตฌ์ถ• ํ™•๋Œ€
https://www.digitaltoday.co.kr/news/articleView.html?idxno=693572
[ํ—ฌ๋กœํ‹ฐ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šค ํ•ฉ๋ฅ˜โ€ฆ์‚ฐ์—…๋ณ„ AI ๊ตฌ์ถ•์‚ฌ์—… ํ™•๋Œ€
https://www.hellot.net/news/article.html?no=114427
[๋”์—์ด์•„์ด] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ ์†์žก๊ณ  ํšŒ๊ณ„ยท๋ฐฉ์‚ฐยท์ œ์กฐ AI ์‹œ์žฅ ํ™•๋Œ€
https://www.newstheai.com/news/articleView.html?idxno=21364
[๋ฐ์ดํ„ฐ๋„ท] ๋””๋…ธํ‹ฐ์‹œ์•„, โ€˜์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šคโ€™ ํ•ฉ๋ฅ˜ ยทยทยท ์‚ฐ์—…๋ณ„ AI ๊ตฌ์ถ• ํ™•๋Œ€
https://www.datanet.co.kr/news/articleView.html?idxno=213845
[์ด์ฝ”๋…ธ๋ฏน๋ฆฌ๋ทฐ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šค ํ•ฉ๋ฅ˜
https://www.econovill.com/news/articleView.html?idxno=748173
[ํ…Œํฌ์›”๋“œ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šค ํ•ฉ๋ฅ˜โ€ฆ'AI ์‚ฌ์—…ํ™”' ์†๋„
https://www.epnc.co.kr/news/articleView.html?idxno=405642
[์•„์ดํ‹ฐ๋ฐ์ผ๋ฆฌ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ 'AI ์–ผ๋ผ์ด์–ธ์Šค' ํ•ฉ๋ฅ˜
https://www.itdaily.kr/news/articleView.html?idxno=241042
[์ธ๊ณต์ง€๋Šฅ์‹ ๋ฌธ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šค ํ•ฉ๋ฅ˜โ€ฆ์‚ฐ์—…๋ณ„ AI ๊ตฌ์ถ•์‚ฌ์—… ํ™•๋Œ€
https://www.aitimes.kr/news/articleView.html?idxno=41485
[๋””์ง€ํ„ธ๋ฐ์ผ๋ฆฌ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šค ํ•ฉ๋ฅ˜โ€ฆ์‚ฐ์—…๋ณ„ AX ํ™•๋Œ€ ๊ธฐ๋Œ€
https://www.ddaily.co.kr/page/view/2026081810284549969
[ํ‚คํฌ์ŠคํŠธ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ AI ์–ผ๋ผ์ด์–ธ์Šค ํ•ฉ๋ฅ˜โ€ฆ์‚ฐ์—…๋ณ„ AI ๊ตฌ์ถ•์‚ฌ์—… ํ™•๋Œ€
https://www.kipost.net/news/articleView.html?idxno=340683
[์—์ด๋น™] ์‚ฐ์—… AI, PoC ๋„˜์–ด ํ˜„์žฅ ๊ตฌ์ถ•์œผ๋กœโ€ฆ ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ 'AI ์–ผ๋ผ์ด์–ธ์Šค' ํ•ฉ๋ฅ˜
https://kr.aving.net/news/articleView.html?idxno=1813310
[IT๋™์•„] [์ฃผ๊ฐ„์Šคํƒ€ํŠธ์—…๋™ํ–ฅ] ๋””๋…ธํ‹ฐ์‹œ์•„, ์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ 'AI ์–ผ๋ผ์ด์–ธ์Šค' ํ•ฉ๋ฅ˜ ๅค–
https://it.donga.com/109378/

#๋””๋…ธํ‹ฐ์‹œ์•„ #์ฝ”์˜ค๋กฑ๋ฒ ๋‹ˆํŠธ

120B ๊ทœ๋ชจ์˜ MoE ๋ชจ๋ธ์„ ๋‹จ์ผ ์†Œ๋น„์ž์šฉ GPU์—์„œ ๊ตฌ๋™ํ•˜๋Š” Aether์˜ ์„ธ ๋ฒˆ์งธ ๊ธฐ์ˆ  ์ด์•ผ๊ธฐ๋ฅผ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค.-Part 3์—์„œ๋Š” Memory Management, KV Cache, Offloadingโ€‹์„ ์ค‘์‹ฌ์œผ๋กœ...
24/08/2026

120B ๊ทœ๋ชจ์˜ MoE ๋ชจ๋ธ์„ ๋‹จ์ผ ์†Œ๋น„์ž์šฉ GPU์—์„œ ๊ตฌ๋™ํ•˜๋Š” Aether์˜ ์„ธ ๋ฒˆ์งธ ๊ธฐ์ˆ  ์ด์•ผ๊ธฐ๋ฅผ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค.
-
Part 3์—์„œ๋Š” Memory Management, KV Cache, Offloadingโ€‹์„ ์ค‘์‹ฌ์œผ๋กœ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค. ๋Œ€๊ทœ๋ชจ ๋ชจ๋ธ์„ ์ œํ•œ๋œ GPU ๋ฉ”๋ชจ๋ฆฌ ํ™˜๊ฒฝ์—์„œ ๊ตฌ๋™ํ•  ๋•Œ๋Š” ๋ชจ๋ธ Weight๋ฟ ์•„๋‹ˆ๋ผ ์ถ”๋ก  ๊ณผ์ •์—์„œ ์ƒ์„ฑ๋˜๋Š” KV Cache์™€ Runtime Memory๊นŒ์ง€ ํ•จ๊ป˜ ๊ด€๋ฆฌํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
-
์ด๋ฒˆ ๊ธ€์—์„œ๋Š” Aether๊ฐ€ GPU์™€ Host Memory์— ๋ฐ์ดํ„ฐ๋ฅผ ์–ด๋–ป๊ฒŒ ๋ฐฐ์น˜ํ•˜๊ณ , ์ถ”๋ก  ๊ณผ์ •์—์„œ ๋ณ€ํ™”ํ•˜๋Š” ๋ฉ”๋ชจ๋ฆฌ ์š”๊ตฌ๋Ÿ‰์— ๋Œ€์‘ํ•˜๊ธฐ ์œ„ํ•ด Offloading์„ ์–ด๋–ป๊ฒŒ ํ™œ์šฉํ•˜๋Š”์ง€ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค.
-
์ž์„ธํ•œ ์ด์•ผ๊ธฐ๋Š” ๋ธ”๋กœ๊ทธ์—์„œ ํ™•์ธํ•ด ์ฃผ์„ธ์š”.
๐Ÿ”— https://medium.com//aether-memory-management-kv-cache-and-offloading-part-3-054f03c94ca4

#๋””๋…ธํ‹ฐ์‹œ์•„

๋‚ด์ผ 2026 OCP Korea Tech Day์—์„œ ๋””๋…ธํ‹ฐ์‹œ์•„ ๋…ธํ™์ฐฌ CDO๊ฐ€ Keynote ๋ฐœํ‘œ๋ฅผ ์ง„ํ–‰ํ•ฉ๋‹ˆ๋‹ค!-์ƒ์„ฑํ˜• AI์™€ AI ์—์ด์ „ํŠธ๊ฐ€ ์‹ค์ œ ์„œ๋น„์Šค๋กœ ํ™•์žฅ๋˜๋ฉด์„œ, ์ธํ”„๋ผ์˜ ๊ณผ์ œ๋„ ๋‹จ์ˆœํ•œ GPU ์—ฐ์‚ฐ์„ ๋„˜์–ด ๋ฐ...
19/08/2026

๋‚ด์ผ 2026 OCP Korea Tech Day์—์„œ ๋””๋…ธํ‹ฐ์‹œ์•„ ๋…ธํ™์ฐฌ CDO๊ฐ€ Keynote ๋ฐœํ‘œ๋ฅผ ์ง„ํ–‰ํ•ฉ๋‹ˆ๋‹ค!
-
์ƒ์„ฑํ˜• AI์™€ AI ์—์ด์ „ํŠธ๊ฐ€ ์‹ค์ œ ์„œ๋น„์Šค๋กœ ํ™•์žฅ๋˜๋ฉด์„œ, ์ธํ”„๋ผ์˜ ๊ณผ์ œ๋„ ๋‹จ์ˆœํ•œ GPU ์—ฐ์‚ฐ์„ ๋„˜์–ด ๋ฐ์ดํ„ฐ๋ฅผ ์–ผ๋งˆ๋‚˜ ๋น ๋ฅด๊ณ  ํšจ์œจ์ ์œผ๋กœ ๊ธฐ์–ตํ•˜๊ณ  ๋‹ค์‹œ ๊บผ๋‚ด์˜ฌ ์ˆ˜ ์žˆ๋Š”๊ฐ€๋กœ ํ™•๋Œ€๋˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
-
์ด๋ฒˆ ๋ฐœํ‘œ์—์„œ๋Š”
'AI ์—์ด์ „ํŠธ์˜ ์žฅยท๋‹จ๊ธฐ ๊ธฐ์–ต์„ ์œ„ํ•œ AI ์Šคํ† ๋ฆฌ์ง€'๋ฅผ ์ฃผ์ œ๋กœ, ๋””๋…ธํ‹ฐ์‹œ์•„๊ฐ€ ์ž์ฒด ๊ฐœ๋ฐœํ•œ Seahorse Vector DB์™€ ๋ฒกํ„ฐยทKV Cache ๊ฐ€์†๊ธฐ VDPU (Vector Data Processing Unit)๋ฅผ ๊ฒฐํ•ฉํ•œ AI ์Šคํ† ๋ฆฌ์ง€ ์•„ํ‚คํ…์ฒ˜๋ฅผ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค.
-
OCP Korea Tech Day์— ์ฐธ์„ํ•˜์‹œ๋Š” ๋ถ„๋“ค์˜ ๋งŽ์€ ๊ด€์‹ฌ ๋ถ€ํƒ๋“œ๋ฆฝ๋‹ˆ๋‹ค.
-
๐Ÿ“์žฅ์†Œ: ์„œ์šธ ์‚ผ์„ฑ๋™ COEX ๊ทธ๋žœ๋“œ๋ณผ๋ฃธ
๐Ÿ—“๏ธ ํ‚ค๋…ธํŠธ ์„ธ์…˜: 8์›” 21์ผ 10:50 - 11:05 AM
๐Ÿ”— ์ƒ์„ธ ์ •๋ณด: https://ocpkorea.com/

#๋””๋…ธํ‹ฐ์‹œ์•„

๐Ÿ“ 2026๋…„ ์ œ2ํšŒ ์ƒ์ƒํฌ๋Ÿผ DEEP TECH CONVERGENCE NETWORKING DAY !์˜ค๋Š˜ ๋””๋…ธํ‹ฐ์‹œ์•„๋Š” 2026๋…„ ์ œ2ํšŒ ์ƒ์ƒํฌ๋Ÿผ Deep Tech Convergence Networking Day์— ์ฐธ์—ฌ...
18/08/2026

๐Ÿ“ 2026๋…„ ์ œ2ํšŒ ์ƒ์ƒํฌ๋Ÿผ DEEP TECH CONVERGENCE NETWORKING DAY !

์˜ค๋Š˜ ๋””๋…ธํ‹ฐ์‹œ์•„๋Š” 2026๋…„ ์ œ2ํšŒ ์ƒ์ƒํฌ๋Ÿผ Deep Tech Convergence Networking Day์— ์ฐธ์—ฌํ•˜์—ฌ ์ „์‹œ ์„ธ์…˜์„ ์šด์˜ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
-
ํ˜„์žฅ์—์„œ AI ๋ฐ์ดํ„ฐ ๊ฒ€์ƒ‰๊ณผ ํ™œ์šฉ์„ ์œ„ํ•œ Seahorse Cloud์™€ ๋Œ€๊ทœ๋ชจ ๋ฒกํ„ฐ ๊ฒ€์ƒ‰์„ ๊ฐ€์†ํ•˜๋Š” ์ „์šฉ ํ”„๋กœ์„ธ์„œ VDPU(Vector Data Processing Unit)๋ฅผ ์„ ๋ณด์ด๋ฉฐ, ๋‹ค์–‘ํ•œ ์‚ฐ์—… ๊ด€๊ณ„์ž๋“ค๊ณผ ๊ธฐ์ˆ  ๋ฐ ๋น„์ฆˆ๋‹ˆ์Šค ํ˜‘๋ ฅ ๊ฐ€๋Šฅ์„ฑ์— ๋Œ€ํ•œ ์ด์•ผ๊ธฐ๋ฅผ ๋‚˜๋ˆ„๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
-
๋‹ค์–‘ํ•œ ๋”ฅํ…Œํฌ ๊ธฐ์ˆ ๊ณผ ๊ธฐ์—…์„ ๋งŒ๋‚˜๋ณผ ์ˆ˜ ์žˆ๋Š” ์ƒ์ƒํฌ๋Ÿผ ํ–‰์‚ฌ์— ์ฐธ์„ํ•˜์‹ ๋‹ค๋ฉด ๋””๋…ธํ‹ฐ์‹œ์•„ ๋ถ€์Šค์— ๋ฐฉ๋ฌธํ•ด ์ฃผ์„ธ์š”๐Ÿ™Œ
-
๐Ÿ“… 2026. 8. 18
๐Ÿ“ ๊ทธ๋žœ๋“œ ์ธํ„ฐ์ปจํ‹ฐ๋„จํƒˆ ์„œ์šธ ํŒŒ๋ฅด๋‚˜์Šค
#๋””๋…ธํ‹ฐ์‹œ์•„ #์ƒ์ƒํฌ๋Ÿผ

Address

Gangnam District

Alerts

Be the first to know and let us send you an email when Dnotitia posts news and promotions. Your email address will not be used for any other purpose, and you can unsubscribe at any time.

Shortcuts

Share