ÀΰøÁö´É(AI)¹ß ¿Ç³¿¡ ÈûÀÔ¾î ½Â½ÂÀ屸ÇÏ´ø »ï¼ºÀüÀÚ¿Í SKÇÏÀ̴нº°¡ ¶§ ¾Æ´Ñ?À§±â¼³¿¡ ½Ã´Þ¸°´Ù. À§±â¼³ÀÇ Áø¾ÓÁö´Â ±¸±ÛÀÌ ¹ßÇ¥ÇÑ ÇÑ ³í¹®ÀÌ´Ù. ³í¹®Àº AI ¼ÒÇÁÆ®¿þ¾îÀÇ ¸Þ¸ð¸® »ç¿ë·®À» ÁÙ¿©ÁÖ´Â ±â¼ú?¡®Åͺ¸ ÄöÆ®(Turbo Quant)¡¯¸¦ ´Ù·ð´Ù. ÀÌ ±â¼úÀÌ »ó¿ëȵǸé, ±Û·Î¹ú ºòÅ×Å©ÀÇ ¸Þ¸ð¸® ¹ÝµµÃ¼ ¼ö¿ä°¡ °¨¼ÒÇϰí, µ¢´Þ¾Æ »ï¼ºÀüÀÚ¿Í SKÇÏÀ̴нº ¸Þ¸ð¸® ¸ÅÃâµµ Ç϶ôÇÒ °ÍÀ̶õ?°øÆ÷°¡ ½ÃÀåÀ» µ¤ÃÆ´Ù. ´Ù¸¸ Àü¹®°¡µéÀº Åͺ¸ ÄöÆ®°¡ ¸Þ¸ð¸® ½ÃÀå¿£ Å« ¾ÇÀç·Î ÀÛ¿ëÇÏÁö ¾ÊÀ» °ÍÀ̶ó Àü¸ÁÇß´Ù. Àå±âÀûÀ¸·Î´Â AI ½ÃÀå ¼ºÀåÀ» °¡¼ÓȽÃÄÑ ¸Þ¸ð¸® ¼ö¿ä¸¦ ´õ¿í ÃË¹ß ½Ãų °ÍÀ̶õ ºÐ¼®µµ Á¦±âµÆ´Ù.
°ÔÀÓ¸ô¸±°ÔÀÓ ±¸±ÛÀº 24ÀÏ(ÇöÁö½Ã°£)?¡®Åͺ¸ÄöÆ®: ±Ø´ÜÀûÀÎ ¾ÐÃàÀ¸·Î AI È¿À²¼ºÀ» ÀçÁ¤ÀÇ¡¯¶õ º¸°í¼¸¦ ¹ßÇ¥Çß´Ù. ±¸±ÛÀº ÀÌ º¸°í¼¸¦ ÅëÇØ Â÷¼¼´ë ±â¼ú?¡®Åͺ¸ÄöÆ®¡¯¸¦ °ø°³Çß´Ù. ·ÎÀÌÅÍ¿¬ÇÕ´º½º.
±¸±ÛÀº 24ÀÏ(ÇöÁö½Ã°£)?¡®Åͺ¸ÄöÆ®:
¹Ù´ÙÀ̾߱âºÎȰ ±Ø´ÜÀûÀÎ ¾ÐÃàÀ¸·Î AI È¿À²¼ºÀ» ÀçÁ¤ÀÇ¡¯¶õ º¸°í¼¸¦ ¹ßÇ¥Çß´Ù. ±¸±ÛÀº ÀÌ º¸°í¼¸¦ ÅëÇØ Â÷¼¼´ë ±â¼ú?¡®Åͺ¸ÄöÆ®¡¯¸¦ °ø°³Çß´Ù.
Åͺ¸ÄöÆ®´Â AI ÇÁ·Î±×·¥ÀÌ °Þ°í ÀÖ´Â °íÁúÀûÀÎ ¸Þ¸ð¸® º´¸ñ Çö»óÀ» ÇØ¼ÒÇÒ ¾ÐÃà ±â¼úÀÌ´Ù. AIÀÇ ¸Þ¸ð¸® »ç¿ë·®À» ±âÁ¸ ´ëºñ ȹ±âÀûÀÎ ¼öÁØÀ¸·Î ÁÙ¿©ÁØ´Ù.
¿ø¸®´Â ´ÙÀ½°ú °°´Ù. AI
¹Ù´ÙÀ̾߱âÇÕ¹ý ¸ðµ¨Àº ´ëȸ¦ À̾¸é¼ ¾Õ¼ ³ª´« ³»¿ëÀ» ±â¾ïÇØ¾ß ÇÑ´Ù. À̸¦ À§ÇØ ¾²ÀÌ´Â °ÍÀÌ 'Ű-¹ë·ù(KV) ij½Ã'´Ù. ½±°Ô ¸»Çϸé AIÀÇ ´Ü±â ¸Þ¸ðÀåÀÌ´Ù. ¹®Á¦´Â ÀÌ ¸Þ¸ðÀåÀÇ ¿ë·®ÀÌ´Ù. ´ëȰ¡ ±æ¾îÁö°í ó¸®ÇØ¾ß ÇÒ Á¤º¸°¡ ¹æ´ëÇØÁú¼ö·Ï ¸Þ¸ðÀåÀº ±Ý¼¼ ²Ë Â÷¹ö¸°´Ù. ¼Óµµ´Â ´À·ÁÁö°í ºñ¿ëÀº Ä¡¼Ú´Â´Ù. ±¸±ÛÀ» Æ÷ÇÔÇÑ AI ºòÅ×Å© ±â¾÷ »ó´ç¼ö°¡ KV ij½Ã ¸Þ¸ð¸® »ç¿ë·®À»
¹Ù´ÙÀ̾߱âpc¹öÀü´Ù¿î ÁÙÀÌ·Á ÇßÁö¸¸, ¾ÆÁ÷±îÁö Á¦´ë·Î ¹®Á¦¸¦ ÇØ°áÇÏÁö ¸øÇß´Ù.
Åͺ¸ÄöÆ®´Â ÀÌ ¸Þ¸ð¸® »ç¿ë·®À» ±âÁ¸ ´ëºñ ÃÖ¼Ò 6ºÐÀÇ 1 ¼öÁØÀ¸·Î ÁÙÀδÙ. º¸Åë »ç¿ë·®ÀÌ ÁÙ¸é AI ¼º´Éµµ ÇÔ²² ÁÙ¾îµéÁö¸¸, Åͺ¸ÄöÆ®¸¦ Àû¿ëÇϸé ÀÌ °úÁ¤¿¡¼ AIÀÇ ¼º´É ÀúÇϰ¡?»ç½Ç»ó ¾ø´Ù.?±¸±ÛÀº ¿ÀǼҽº ´ëÇü¾ð¾î¸ðµ¨(LLM)ÀÎ 'Áª¸¶'¿Í '¹Ì½ºÆ®¶ö'À» Ȱ¿ëÇØ Àå¹® ÀÌÇØ, ÁúÀÇÀÀ
¸±°ÔÀÓ»çÀÌÆ®Ãßõ ´ä, ÄÚµå »ý¼º, ¿ä¾à µî ´Ù¾çÇÑ º¥Ä¡¸¶Å© Å×½ºÆ®¸¦ ÁøÇàÇß°í, ¸ðµç Ç׸ñ¿¡¼ ÀÌ °°Àº °á°ú¸¦ È®ÀÎÇß´Ù.
AI ¸Þ¸ð¸®¿¡ ¾²ÀÌ´Â »ï¼ºÀüÀÚ HBM4 »çÁø. »ï¼ºÀüÀÚ Á¦°ø
Åͺ¸ÄöÆ®ÀÇ ÇÙ½É ±â¼úÀº?µÎ ´Ü°è·Î ³ª´¶´Ù. ù ¹øÂ°´Â 'Æú¶óÄöÆ®(±ØÁÂÇ¥¾çÀÚÈ)'¶ó´Â ±â¹ýÀÌ´Ù. Æú¶óÄöÆ®´Â µ¥ÀÌÅ͸¦ ÀúÀåÇÏ´Â ¹æ½Ä ÀÚü¸¦ ¹Ù²Û´Ù. ±âÁ¸¿¡´Â µ¥ÀÌÅ͸¦ X¡¤Y¡¤Z ÁÂǥó·³ °¢ ÃàÀÇ °Å¸®·Î Ç¥ÇöÇß´Ù. Æú¶óÄöÆ®´Â À̸¦ ±ØÁÂÇ¥°è·Î ÀüȯÇÑ´Ù. ¡°µ¿ÂÊÀ¸·Î 3ºí·Ï, ºÏÂÊÀ¸·Î 4ºí·Ï¡±À̶ó°í ¸»ÇÏ´Â ´ë½Å ¡°37µµ ¹æÇâÀ¸·Î 5ºí·Ï¡±À̶ó°í ¾ÐÃàÇÏ´Â ¹æ½ÄÀÌ´Ù. ÀÌ·¸°Ô ÇÏ¸é µ¥ÀÌÅ͸¦ Á¤±ÔÈÇÏ´Â ¹ø°Å·Î¿î °úÁ¤ÀÌ »ý·«µÇ°í, ±×¿¡ µû¸¥ Ãß°¡ ¸Þ¸ð¸® ºÎ´ãµµ »ç¶óÁø´Ù.
µÎ ¹øÂ°´Â 'QJL(¾çÀÚÈ Á¸½¼-¸°µ§½ºÆ®¶ó¿ì½º º¯È¯)'ÀÌ´Ù. Æú¶óÄöÆ®¸¦ °ÅÄ¡°í ³ µÚ ³²Àº ¹Ì¼¼ÇÑ ¿ÀÂ÷¸¦ Àâ¾Æ³»´Â ¿ªÇÒÀ» ÇÑ´Ù. °íÂ÷¿ø µ¥ÀÌÅ͸¦ ¼öÇÐÀûÀ¸·Î º¯È¯ÇØ ÇÙ½É °ü°è¸¸ º¸Á¸ÇÏ¸é¼ °¢ ¼öÄ¡¸¦ ´Ü¼øÈ÷ '+1' ¶Ç´Â '-1'ÀÇ ºÎÈ£·Î¸¸ Ç¥ÇöÇÑ´Ù. µ¥ÀÌÅÍ 1°³¸¦ ´Ü 1ºñÆ®(bit)·Î ó¸®Çϸ鼵µ Ãß°¡ ¸Þ¸ð¸®¸¦ ÀüÇô ¾²Áö ¾Ê´Â´Ù. ÀÌ µÎ ´Ü°è¸¦ °áÇÕÇÑ Åͺ¸ÄöÆ®´Â ±âÁ¸ ´ëºñ ÈξÀ ÀûÀº µ¥ÀÌÅÍ(3~4ºñÆ®)¸¸À¸·Î ÇÙ½É Á¤º¸¸¦ Á¤È®È÷ Ç¥ÇöÇØ³½´Ù.
¼Óµµ Çâ»óµµ ´«¿¡ ¶è´Ù. ±¸±ÛÀº ¿£ºñµð¾ÆÀÇ ÃֽŠAI °¡¼Ó±â ¡®H100¡¯?ȯ°æ¿¡¼ ÃøÁ¤ÇÑ °á°ú, 4ºñÆ® Åͺ¸ÄöÆ®°¡ ±âÁ¸ 32ºñÆ® ¹æ½Ä ´ëºñ ¿¬»ê ó¸® ¼Óµµ¸¦ ÃÖ´ë 8¹è ²ø¾î¿Ã·È´Ù°í ¹àÇû´Ù. º°µµÀÇ Ãß°¡ ÇнÀÀ̳ª ÆÄÀÎÆ©´×(ƯÁ¤ ¸ñÀû¿¡ ¸Â°Ô ¸ðµ¨À» ´Ù½Ã ÈÆ·ÃÇÏ´Â °Í) ¾øÀ̵µ ÀÌ ¼º´ÉÀ» ¹ßÈÖÇÑ´Ù´Â Á¡µµ ÁÖ¸ñÇÒ ¸¸ÇÏ´Ù. ½ÇÁ¦ ÇöÀå¿¡ °ð¹Ù·Î ÅõÀÔÇÒ ¼ö ÀÖ´Ù´Â ¶æÀÌ´Ù.
Ȱ¿ë ¹üÀ§µµ KV ij½Ã¿¡ ±×Ä¡Áö ¾Ê´Â´Ù. ±¸±ÛÀº ¡®º¤ÅÍ °Ë»ö¡¯?ºÐ¾ß¿¡¼µµ Åͺ¸ÄöÆ®ÀÇ ÀáÀç·ÂÀÌ Å©´Ù°í °Á¶Çß´Ù. º¤ÅÍ °Ë»öÀ̶õ ´Ü¼ø Ű¿öµå ¸ÅĪÀÌ ¾Æ´Ñ, ¹®ÀåÀÇ ÀÇ¹Ì¿Í ¸Æ¶ôÀ» ÀÌÇØÇØ °¡Àå À¯»çÇÑ Á¤º¸¸¦ ã¾Æ³»´Â ±â¼úÀÌ´Ù. ÃֽŠ°Ë»ö ¿£Áø°ú AI ¼ºñ½º ´ëºÎºÐÀÌ ÀÌ ±â¼ú¿¡ ÀÇÁ¸Çϰí ÀÖ´Ù. ±¸±ÛÀº Åͺ¸ÄöÆ®°¡ ¼ö½Ê¾ï °³ÀÇ º¤ÅÍ µ¥ÀÌÅ͸¦ ´Ù·ç´Â ´ë±Ô¸ð °Ë»ö ÀÎÇÁ¶ó¿¡¼µµ ¸Þ¸ð¸®¸¦ ´ëÆø ÁÙÀ̰í ó¸® ¼Óµµ¸¦ ³ôÀÏ ¼ö ÀÖ´Ù°í ¼³¸íÇß´Ù.
Åͺ¸ÄöÆ®´Â AI ÇÁ·Î±×·¥ÀÌ °Þ°í ÀÖ´Â °íÁúÀûÀÎ ¸Þ¸ð¸® º´¸ñ Çö»óÀ» ÇØ¼ÒÇÒ ¾ÐÃà ±â¼úÀÌ´Ù. AIÀÇ ¸Þ¸ð¸® »ç¿ë·®À» ±âÁ¸ ´ëºñ ȹ±âÀûÀÎ ¼öÁØÀ¸·Î ÁÙ¿©ÁØ´Ù.?·ÎÀÌÅÍ¿¬ÇÕ´º½º
±¸±ÛÀÌ º¸°í¼¸¦ ¹ßÇ¥ÇÑ ÀÌÈÄ, Åͺ¸ÄöÆ® ±â¼úÀÌ »ó¿ëÈµÇ¸é ¸Þ¸ð¸® ¼ö¿ä°¡ ±Þ°¨ÇØ Çѱ¹ ¹ÝµµÃ¼ ¾÷°è°¡ Ÿ°ÝÀ» ¹ÞÀ» °ÍÀ̶õ °øÆ÷°¡ ½ÃÀåÀ» µ¤ÃÆ´Ù. ÁúÁÖÇÏ´ø µÎ ȸ»çÀÇ ÁÖ°¡°¡ 26ÀÏ?ÁÖÃãÇß´ø °Íµµ Åͺ¸ÄöÆ®ÀÇ ¿µÇâÀÌ ÄÇ´Ù.
´Ù¸¸, ºÐ¼®°¡µéÀº Åͺ¸ÄöÆ®°¡ ¹ÝµµÃ¼ ¼ö¿ä¿£ Å« ¿µÇâÀ» ¹ÌÄ¡Áö ¾ÊÀ» °ÍÀÌ¶ó ³»´ÙºÃ´Ù.?¼ð ±è ¸ð°Ç½ºÅĸ® ºÐ¼®°¡´Â ¡°¸ðµ¨ÀÌ ¼º´É ÀúÇÏ ¾øÀÌ ¸Þ¸ð¸® ¿ä±¸·®À» ³·Ãç ½ÇÇàÇÒ ¼ö ÀÖ´Ù¸é ºñ¿ëÀÌ Å©°Ô °¨¼ÒÇØ?AI?µµÀÔÀÇ ¼öÀͼºÀÌ ³ô¾ÆÁú °Í¡±À̶ó¸ç ¡°ºñ¿ëÀÌ ³·¾ÆÁö¸é Á¦Ç° äÅà ¼ö¿äµµ Áõ°¡ÇØ Àå±âÀûÀ¸·Î ¸Þ¸ð¸® Á¦Á¶»ç¿¡µµ ÀÌÀÍÀÌ µÉ °Í¡±À̶ó°í ³»´ÙºÃ´Ù.
¿µ±¹ °æÁ¦ÇÐÀÚ Àª¸®¾ö Á¦¹ø½º°¡ ÁÖâÇÑ ´ë·Î ±â¼úÀÇ È¿À²¼ºÀÌ ³ô¾ÆÁú¼ö·Ï Á¦Ç°ÀÇ Ã¤Åðú ¼ö¿ä°¡ ¿ÀÈ÷·Á ´Ã¾î³´Ù´Â ¡®Á¦¹ø½ºÀÇ ¿ª¼³¡¯ÀÌ Àû¿ëµÉ °ÍÀ̶õ Àü¸ÁÀÌ´Ù. ¿ÀÅͽº ¾îµå¹ÙÀÌÀú½ºÀÇ ¾Øµå·ç Àè½¼ ºÐ¼®°¡´Â ¡°±Ø½ÉÇÑ (¸Þ¸ð¸®) °ø±Þ Á¦¾à »óȲÀ» °í·ÁÇÒ ¶§ ±¸±ÛÀÇ À̹ø ±â¼úÀÌ ¼ö¿ä¿¡ ¹ÌÄ¡´Â ¿µÇâÀº ¹Ì¹ÌÇÒ °Í¡±À̶ó°í Æò°¡Çß´Ù.
¹ÝÁø¿í ±âÀÚ halfnuk@segye.com