{"@context":["https://www.w3.org/ns/activitystreams",{"Hashtag":"as:Hashtag","sensitive":"as:sensitive","dcterms":"http://purl.org/dc/terms/","gts":"https://gotosocial.org/ns#","schema":"http://schema.org/","exifData":"schema:exifData","PropertyValue":"schema:PropertyValue","interactionPolicy":{"@id":"gts:interactionPolicy","@type":"@id"},"canQuote":{"@id":"gts:canQuote","@type":"@id"},"canReply":{"@id":"gts:canReply","@type":"@id"},"canLike":{"@id":"gts:canLike","@type":"@id"},"canAnnounce":{"@id":"gts:canAnnounce","@type":"@id"},"automaticApproval":{"@id":"gts:automaticApproval","@type":"@id"},"manualApproval":{"@id":"gts:manualApproval","@type":"@id"},"always":{"@id":"gts:always","@type":"@id"},"toot":"http://joinmastodon.org/ns#","blurhash":"toot:blurhash"}],"id":"https://naiwaen.debuggingsoft.com/?p=49525","type":"Note","attachment":[{"type":"Image","url":"https://i0.wp.com/naiwaen.debuggingsoft.com/blog/wp-content/uploads/2026/08/PetaflopIsNotSameOnPCAndSuperComputer.webp?fit=1024%2C576\u0026ssl=1","mediaType":"image/webp","blurhash":"U97_W,EKm+Wn.AkDo#o}ncohp0xct1xwS0nN"}],"attributedTo":"https://naiwaen.debuggingsoft.com/?author=1","content":"\u003Ch2\u003EPetaflop \u0e02\u0e2d\u0e07\u0e40\u0e23\u0e32\u0e19\u0e31\u0e49\u0e19\u0e44\u0e21\u0e48\u0e40\u0e17\u0e48\u0e32\u0e01\u0e31\u0e19\u003C/h2\u003E\n\n\u003Cp\u003E\u0e0a\u0e48\u0e27\u0e07\u0e19\u0e35\u0e49\u0e40\u0e2b\u0e47\u0e19\u0e21\u0e35 Ads \u0e40\u0e22\u0e2d\u0e30 \u0e41\u0e1a\u0e1a\u0e02\u0e32\u0e22\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07 XXX \u0e2a\u0e32\u0e21\u0e32\u0e23\u0e16 Run AI \u0e44\u0e14\u0e49 1 Petaflop \u0e40\u0e2b\u0e21\u0e37\u0e2d\u0e19\u0e21\u0e35\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07 Super Computer \u0e2d\u0e22\u0e39\u0e48\u0e17\u0e35\u0e48\u0e1a\u0e49\u0e32\u0e19\u0e04\u0e38\u0e13\u0e40\u0e2d\u0e07 \u0e41\u0e15\u0e48\u0e17\u0e27\u0e48\u0e32\u0e1e\u0e2d\u0e40\u0e2d\u0e32 Model \u0e40\u0e14\u0e35\u0e22\u0e27\u0e01\u0e31\u0e19 \u0e41\u0e15\u0e48\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e15\u0e48\u0e32\u0e07\u0e01\u0e31\u0e19 \u0e04\u0e27\u0e32\u0e21\u0e40\u0e23\u0e47\u0e27\u0e43\u0e19\u0e01\u0e32\u0e23\u0e15\u0e2d\u0e1a\u0e2a\u0e19\u0e2d\u0e07\u0e15\u0e48\u0e32\u0e07\u0e01\u0e31\u0e19\u0e21\u0e32\u0e01\u0e42\u0e02\u0e40\u0e25\u0e22\u003C/p\u003E\u003Cdiv\u003E\u003C/div\u003E\u003Ch4\u003EFLOPS \u0e04\u0e37\u0e2d \u0e2d\u0e30\u0e44\u0e23\u003C/h4\u003E\u003Cp\u003EFLOPS (Floating-Point Operations Per Second) \u0e21\u0e2d\u0e07\u0e27\u0e48\u0e32\u0e40\u0e1b\u0e47\u0e19\u0e01\u0e32\u0e23\u0e27\u0e31\u0e14\u0e27\u0e48\u0e32\u003Cstrong\u003E\u0e43\u0e19 1 \u0e27\u0e34\u0e19\u0e32\u0e17\u0e35\u003C/strong\u003E \u0e15\u0e31\u0e27\u0e2b\u0e19\u0e48\u0e27\u0e22\u0e1b\u0e23\u0e30\u0e21\u0e27\u0e25\u0e1c\u0e25\u0e02\u0e2d\u0e07\u0e40\u0e23\u0e32\u0e44\u0e21\u0e48\u0e27\u0e48\u0e32\u0e08\u0e30\u0e40\u0e1b\u0e47\u0e19 GPU / NPU / CPU \u0e27\u0e48\u0e32\u0e08\u0e30\u003Cstrong\u003E\u0e04\u0e33\u0e19\u0e27\u0e13\u0e08\u0e38\u0e14\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e44\u0e14\u0e49\u0e40\u0e22\u0e2d\u0e30\u0e41\u0e04\u0e48\u0e44\u0e2b\u0e19\u003C/strong\u003E \u0e19\u0e31\u0e49\u0e19\u0e40\u0e2d\u0e07 \u003C/p\u003E\u003Ch4\u003EFloating Point \u0e04\u0e37\u0e2d \u0e2d\u0e30\u0e44\u0e23 \u003C/h4\u003E\u003Cp\u003EFloating Point \u0e23\u0e30\u0e1a\u0e1a\u0e01\u0e32\u0e23\u0e08\u0e31\u0e14\u0e40\u0e01\u0e47\u0e1a\u0e02\u0e49\u0e2d\u0e21\u0e39\u0e25\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e43\u0e19\u0e04\u0e2d\u0e21\u0e1e\u0e34\u0e27\u0e40\u0e15\u0e2d\u0e23\u0e4c\u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e04\u0e48\u0e32\u0e17\u0e35\u0e48\u0e21\u0e35\u0e08\u0e38\u0e14\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e2b\u0e23\u0e37\u0e2d\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e17\u0e35\u0e48\u0e21\u0e35\u0e04\u0e48\u0e32\u0e21\u0e32\u0e01/\u0e19\u0e49\u0e2d\u0e22\u0e21\u0e32\u0e01\u0e46 \u0e40\u0e17\u0e48\u0e32\u0e17\u0e35\u0e48\u0e08\u0e30\u0e40\u0e01\u0e47\u0e1a\u0e15\u0e23\u0e07\u0e46 \u0e41\u0e1a\u0e1a\u0e1e\u0e27\u0e01 Scientific Notation \u0e2d\u0e31\u0e19\u0e19\u0e35\u0e49\u0e1c\u0e21\u0e22\u0e49\u0e2d\u0e19\u0e01\u0e25\u0e31\u0e1a\u0e44\u0e1b \u0e1b\u0e351 \u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07 \u003Ca href=\u0022https://wchargin.com/lc3web/\u0022 rel=\u0022noreferrer noopener\u0022\u003ELC-3\u003C/a\u003E \u0e40\u0e04\u0e49\u0e32\u0e08\u0e30\u0e21\u0e35\u0e2d\u0e49\u0e32\u0e07\u0e2d\u0e34\u0e07\u0e21\u0e32\u0e15\u0e23\u0e10\u0e32\u0e19\u0e19\u0e36\u0e07 IEEE 754 \u0e41\u0e1a\u0e48\u0e07\u0e1e\u0e37\u0e49\u0e19\u0e17\u0e35\u0e01\u0e32\u0e23\u0e40\u0e01\u0e47\u0e1a\u0e1e\u0e27\u0e01 Floating Point \u0e2d\u0e2d\u0e01\u0e40\u0e1b\u0e47\u0e19 3 \u0e2a\u0e48\u0e27\u0e19\u003C/p\u003E\u003Cul\u003E\u003Cli\u003E\u003Cstrong\u003Esign\u003C/strong\u003E \u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07\u0e2b\u0e21\u0e32\u0e22 \u0e1a\u0e27\u0e01/\u0e25\u0e1a\u003C/li\u003E\u003Cli\u003E\u003Cstrong\u003Eexponent\u003C/strong\u003E -\u0e40\u0e25\u0e02\u0e22\u0e01\u0e01\u0e33\u0e25\u0e31\u0e07\u0e1a\u0e2d\u0e01\u0e27\u0e48\u0e32\u0e0a\u0e48\u0e27\u0e07\u0e04\u0e48\u0e32\u0e43\u0e2b\u0e0d\u0e48\u0e48 \u0e40\u0e25\u0e47\u0e01\u0e41\u0e04\u0e48\u0e44\u0e2b\u0e19\u003C/li\u003E\u003Cli\u003E\u003Cstrong\u003Emantissa\u003C/strong\u003E  - \u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14 \u0e27\u0e48\u0e32\u0e23\u0e30\u0e1a\u0e38\u0e44\u0e14\u0e49\u0e01\u0e35\u0e48\u0e2b\u0e25\u0e31\u0e01\u003C/li\u003E\u003C/ul\u003E\u003Cp\u003E\u0e2d\u0e35\u0e01\u0e41\u0e1a\u0e1a\u0e19\u0e2d\u0e01\u0e08\u0e32\u0e01 Floating Point \u0e01\u0e47 INT \u0e40\u0e01\u0e47\u0e1a\u0e08\u0e33\u0e19\u0e27\u0e19\u0e40\u0e15\u0e47\u0e21\u0e25\u0e49\u0e27\u0e19\u0e46 \u0e1b\u0e23\u0e30\u0e2b\u0e22\u0e31\u0e14\u0e1e\u0e37\u0e49\u0e19\u0e17\u0e35\u0e48\u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e1e\u0e27\u0e01\u0e17\u0e34\u0e28\u0e19\u0e34\u0e22\u0e21\u0e25\u0e07 \u003C/p\u003E\u003Cblockquote\u003E\u003Cp\u003E\u0e04\u0e27\u0e32\u0e21\u0e15\u0e48\u0e32\u0e07\u0e17\u0e31\u0e49\u0e07\u0e2b\u0e21\u0e14\u0e21\u0e32\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e41\u0e1a\u0e48\u0e07\u0e19\u0e35\u0e49\u0e41\u0e2b\u0e25\u0e30 \u2014 \u0e16\u0e49\u0e32 Bit \u0e22\u0e34\u0e07\u0e19\u0e49\u0e2d\u0e22 \u0e21\u0e31\u0e19\u0e08\u0e30\u0e43\u0e0a\u0e49\u0e2b\u0e19\u0e48\u0e27\u0e22\u0e04\u0e27\u0e32\u0e21\u0e08\u0e33\u0e19\u0e49\u0e2d\u0e22\u0e41\u0e25\u0e30\u0e04\u0e33\u0e19\u0e27\u0e13\u0e40\u0e23\u0e47\u0e27 \u0e41\u0e15\u0e48\u0e01\u0e47\u0e40\u0e2a\u0e35\u0e22\u0e17\u0e31\u0e49\u0e07\u0e0a\u0e48\u0e27\u0e07\u0e04\u0e48\u0e32\u0e41\u0e25\u0e30\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e44\u0e1b\u003C/p\u003E\u003C/blockquote\u003E\u003Ch4\u003E\u0e40\u0e27\u0e25\u0e32\u0e44\u0e1b\u0e1f\u0e31\u0e07\u0e40\u0e04\u0e49\u0e32\u0e02\u0e32\u0e22 XXX 1 Petaflop \u0e21\u0e32\u0e08\u0e32\u0e01\u0e44\u0e2b\u0e19 ?\u003C/h4\u003E\u003Cp\u003E\u0e2d\u0e31\u0e19\u0e19\u0e35\u0e49\u0e15\u0e49\u0e2d\u0e07\u0e22\u0e49\u0e32\u0e22\u0e44\u0e1b\u0e14\u0e39\u0e17\u0e35\u0e48\u0e15\u0e31\u0e27 Model \u0e01\u0e31\u0e19\u0e01\u0e48\u0e2d\u0e19 \u0e1e\u0e2d\u0e14\u0e35\u0e1c\u0e21\u0e44\u0e1b\u0e1f\u0e31\u0e07 Talk \u0e2b\u0e25\u0e32\u0e22 Session \u0e40\u0e0a\u0e48\u0e19 \u003Ca href=\u0022https://naiwaen.debuggingsoft.com/2026/05/recap-agentcamp-bangkok-2026/#if-you-need-local-what-you-should-know-to-fit-your-budget\u0022 rel=\u0022noreferrer noopener\u0022\u003EIf you need Local what you should know to fit your budget (AgentCamp Bangkok 2026) \u003C/a\u003E\u0e40\u0e1b\u0e47\u0e19\u0e15\u0e49\u0e19 \u0e40\u0e25\u0e22\u0e44\u0e14\u0e49\u0e21\u0e32\u0e08\u0e14\u0e46\u0e44\u0e27\u0e49 \u0e15\u0e31\u0e27 AI Model \u0e21\u0e31\u0e19\u0e08\u0e30\u0e21\u0e32\u0e15\u0e23\u0e27\u0e31\u0e14\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e43\u0e19\u0e01\u0e32\u0e23\u0e04\u0e33\u0e19\u0e27\u0e13 \u0e22\u0e34\u0e48\u0e07\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e40\u0e22\u0e2d\u0e30\u0e21\u0e32\u0e01 \u0e21\u0e31\u0e19\u0e08\u0e30\u0e22\u0e34\u0e48\u0e07\u0e40\u0e01\u0e48\u0e07\u0e43\u0e0a\u0e49 Processor / Memory / Disk \u0e40\u0e22\u0e2d\u0e30\u0e15\u0e32\u0e21 \u0e44\u0e25\u0e48\u0e15\u0e32\u0e21\u0e40\u0e22\u0e2d\u0e30\u0e2a\u0e38\u0e14\u003C/p\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EFP64 (Double Precision)\u003C/strong\u003E - \u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e17\u0e35\u0e48\u0e02\u0e2d\u0e07 Model \u0e17\u0e35\u0e48\u0e1e\u0e27\u0e01 Supercomputer \u0e41\u0e1a\u0e1a HPC \u0e43\u0e0a\u0e49\u0e01\u0e31\u0e19 \u0e17\u0e35\u0e48\u0e15\u0e49\u0e2d\u0e07\u0e43\u0e0a\u0e49\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e02\u0e19\u0e32\u0e14\u0e19\u0e31\u0e49\u0e19 \u0e40\u0e1e\u0e23\u0e32\u0e30 \u003C/p\u003E\u003Cul\u003E\u003Cli\u003EFloating-Point Error (\u0e04\u0e27\u0e32\u0e21\u0e04\u0e25\u0e32\u0e14\u0e40\u0e04\u0e25\u0e37\u0e48\u0e2d\u0e19\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e1b\u0e31\u0e14\u0e40\u0e28\u0e29) \u0e21\u0e31\u0e19\u0e41\u0e17\u0e19\u0e14\u0e49\u0e27\u0e22\u0e40\u0e25\u0e02\u0e10\u0e32\u0e19 2 \u0e41\u0e25\u0e49\u0e27\u0e16\u0e49\u0e32\u0e04\u0e33\u0e19\u0e27\u0e13\u0e17\u0e14\u0e44\u0e1b\u0e40\u0e23\u0e37\u0e48\u0e2d\u0e22 \u0e04\u0e48\u0e32 Floating-Point Error \u0e21\u0e31\u0e19\u0e08\u0e30\u0e2a\u0e30\u0e2a\u0e21\u0e17\u0e14\u0e44\u0e1b\u0e17\u0e35\u0e48\u0e25\u0e30\u0e40\u0e25\u0e47\u0e01\u0e19\u0e49\u0e2d\u0e22 \u003C/li\u003E\u003Cli\u003E\u0e07\u0e32\u0e19\u0e17\u0e35\u0e48\u0e43\u0e0a\u0e49\u0e21\u0e31\u0e19\u0e1e\u0e25\u0e32\u0e14\u0e44\u0e21\u0e48\u0e44\u0e14\u0e49 \u0e40\u0e0a\u0e48\u0e19 \u0e01\u0e32\u0e23\u0e2b\u0e32\u0e15\u0e31\u0e27\u0e22\u0e32 \u0e04\u0e33\u0e19\u0e27\u0e13\u0e2a\u0e20\u0e32\u0e1e\u0e2d\u0e32\u0e01\u0e32\u0e28 \u0e2b\u0e23\u0e37\u0e2d \u0e2d\u0e2d\u0e01\u0e41\u0e1a\u0e1a\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07\u0e1a\u0e34\u0e19, \u0e08\u0e23\u0e27\u0e14 \u0e27\u0e34\u0e16\u0e35\u0e01\u0e32\u0e23\u0e22\u0e34\u0e07 \u0e40\u0e1b\u0e47\u0e19\u0e15\u0e49\u0e19\u003C/li\u003E\u003C/ul\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EFP32 (Single Precision)\u003C/strong\u003E - \u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e01\u0e23\u0e32\u0e1f\u0e34\u0e01 3D \u0e41\u0e25\u0e30\u0e01\u0e32\u0e23\u0e40\u0e17\u0e23\u0e19 AI \u0e22\u0e38\u0e04\u0e41\u0e23\u0e01\u0e46 \u003C/p\u003E\u003Cblockquote\u003E\u003Cp\u003E2 \u0e41\u0e1a\u0e1a\u0e02\u0e49\u0e32\u0e07\u0e15\u0e49\u0e19\u0e21\u0e31\u0e19\u0e43\u0e0a\u0e49 Resource \u0e40\u0e22\u0e2d\u0e30\u0e21\u0e32\u0e01\u0e17\u0e31\u0e49\u0e07 CPU GPU RAM Disk \u0e15\u0e31\u0e2d\u0e07\u0e41\u0e23\u0e07\u0e21\u0e32\u0e01\u0e46 \u0e41\u0e25\u0e49\u0e27\u0e21\u0e35\u0e40\u0e22\u0e2d\u0e30\u0e14\u0e49\u0e27\u0e22 \u0e21\u0e32\u0e43\u0e0a\u0e49\u0e41\u0e1a\u0e1a\u0e17\u0e35\u0e48 Optimal \u0e17\u0e35\u0e48\u0e2a\u0e38\u0e14\u0e43\u0e19\u0e15\u0e2d\u0e19\u0e19\u0e35\u0e49\u003C/p\u003E\u003C/blockquote\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EFP16 (Half Precision - 16 bits):\u003C/strong\u003E \u0e25\u0e14\u0e08\u0e33\u0e19\u0e27\u0e19 Bit  \u0e25\u0e07\u0e04\u0e23\u0e36\u0e48\u0e07\u0e2b\u0e19\u0e36\u0e48\u0e07 \u0e17\u0e33\u0e43\u0e2b\u0e49\u0e01\u0e34\u0e19 VRAM \u0e25\u0e14\u0e25\u0e07 50% \u0e41\u0e25\u0e30\u0e04\u0e33\u0e19\u0e27\u0e13\u0e44\u0e14\u0e49\u0e40\u0e23\u0e47\u0e27\u0e02\u0e36\u0e49\u0e19\u0e21\u0e32\u0e01 \u0e41\u0e15\u0e48\u0e02\u0e49\u0e2d\u0e40\u0e2a\u0e35\u0e22\u0e04\u0e37\u0e2d\u0e21\u0e35\u0e23\u0e30\u0e22\u0e30 (Range) \u0e02\u0e2d\u0e07\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e17\u0e35\u0e48\u0e41\u0e04\u0e1a\u0e25\u0e07 \u0e1a\u0e32\u0e07\u0e04\u0e23\u0e31\u0e49\u0e07\u0e17\u0e33\u0e43\u0e2b\u0e49\u0e40\u0e01\u0e34\u0e14\u0e1b\u0e31\u0e0d\u0e2b\u0e32 Underflow/Overflow (\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e19\u0e49\u0e2d\u0e22\u0e2b\u0e23\u0e37\u0e2d\u0e21\u0e32\u0e01\u0e40\u0e01\u0e34\u0e19\u0e01\u0e27\u0e48\u0e32\u0e17\u0e35\u0e48\u0e23\u0e30\u0e1a\u0e1a\u0e08\u0e30\u0e40\u0e01\u0e47\u0e1a\u0e44\u0e14\u0e49) \u0e40\u0e27\u0e25\u0e32\u0e40\u0e17\u0e23\u0e19\u0e42\u0e21\u0e40\u0e14\u0e25\u003C/p\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EBF16 (Brain Floating Point - 16 bits):\u003C/strong\u003E \u003Ca href=\u0022https://cloud.google.com/blog/products/ai-machine-learning/bfloat16-the-secret-to-high-performance-on-cloud-tpus\u0022 rel=\u0022noopener\u0022\u003E\u0e16\u0e39\u0e01\u0e1e\u0e31\u0e12\u0e19\u0e32\u0e42\u0e14\u0e22 Google\u003C/a\u003E \u0e40\u0e1e\u0e37\u0e48\u0e2d\u0e41\u0e01\u0e49\u0e08\u0e38\u0e14\u0e2d\u0e48\u0e2d\u0e19\u0e02\u0e2d\u0e07 FP16 \u0e42\u0e14\u0e22\u0e21\u0e31\u0e19\u0e08\u0e30\u0e43\u0e0a\u0e49 \u0e3aBit \u0e43\u0e19\u0e01\u0e32\u0e23\u0e40\u0e01\u0e47\u0e1a Exponent (\u0e0a\u0e48\u0e27\u0e07\u0e02\u0e2d\u0e07\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02) \u0e40\u0e17\u0e48\u0e32\u0e01\u0e31\u0e1a FP32 \u0e41\u0e15\u0e48\u0e25\u0e14\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e02\u0e2d\u0e07\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21 (Mantissa) \u0e25\u0e07\u0e41\u0e17\u0e19 \u0e0b\u0e36\u0e48\u0e07\u0e27\u0e34\u0e18\u0e35\u0e19\u0e35\u0e49\u0e40\u0e1b\u0e47\u0e19\u0e17\u0e35\u0e48\u0e19\u0e34\u0e22\u0e21\u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e01\u0e32\u0e23 Train LLM Model \u0e40\u0e1e\u0e23\u0e32\u0e30\u0e23\u0e31\u0e01\u0e29\u0e32\u0e40\u0e2a\u0e16\u0e35\u0e22\u0e23\u0e20\u0e32\u0e1e\u0e44\u0e14\u0e49\u0e14\u0e35\u003C/p\u003E\u003Cblockquote\u003E\u003Cp\u003E\u0e41\u0e15\u0e48 FP16 / BF16 \u0e21\u0e31\u0e19\u0e22\u0e31\u0e07\u0e43\u0e0a\u0e49 Spec \u0e41\u0e23\u0e07\u0e2d\u0e22\u0e39\u0e48\u0e14\u0e35 \u0e40\u0e25\u0e19\u0e21\u0e35 Idea \u0e01\u0e32\u0e23\u0e17\u0e33 Quantization \u0e40\u0e1e\u0e37\u0e48\u0e2d\u0e25\u0e14\u0e08\u0e33\u0e19\u0e27\u0e19 Param \u0e41\u0e25\u0e30\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e25\u0e07 \u0e42\u0e14\u0e22\u0e17\u0e35\u0e48\u0e04\u0e38\u0e13\u0e20\u0e32\u0e1e\u0e22\u0e31\u0e07\u0e23\u0e31\u0e1a\u0e44\u0e14\u0e49\u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a Local Model \u0e21\u0e35 Idea \u0e15\u0e32\u0e21\u0e19\u0e35\u0e49\u003C/p\u003E\u003C/blockquote\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EINT8 (8-bit Integer):\u003C/strong\u003E \u0e41\u0e1b\u0e25\u0e07\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21 (Floating Point) \u0e43\u0e2b\u0e49\u0e01\u0e25\u0e32\u0e22\u0e40\u0e1b\u0e47\u0e19\u0e08\u0e33\u0e19\u0e27\u0e19\u0e40\u0e15\u0e47\u0e21 (Integer) \u0e02\u0e19\u0e32\u0e14 8 \u0e1a\u0e34\u0e15 \u0e25\u0e14\u0e01\u0e32\u0e23\u0e43\u0e0a\u0e49 VRAM \u0e25\u0e07\u0e44\u0e14\u0e49\u0e2d\u0e35\u0e01\u0e04\u0e23\u0e36\u0e48\u0e07\u0e2b\u0e19\u0e36\u0e48\u0e07\u0e08\u0e32\u0e01 FP16 \u003C/p\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EINT4 (4-bit Integer):\u003C/strong\u003E \u0e1a\u0e35\u0e1a\u0e2d\u0e31\u0e14\u0e02\u0e31\u0e49\u0e19\u0e2a\u0e38\u0e14 \u0e43\u0e0a\u0e49\u0e23\u0e48\u0e27\u0e21\u0e01\u0e31\u0e1a\u0e1f\u0e2d\u0e23\u0e4c\u0e41\u0e21\u0e15\u0e2d\u0e22\u0e48\u0e32\u0e07 GGUF \u0e2b\u0e23\u0e37\u0e2d AWQ \u0e17\u0e33\u0e43\u0e2b\u0e49\u0e2a\u0e32\u0e21\u0e32\u0e23\u0e16\u0e23\u0e31\u0e19\u0e42\u0e21\u0e40\u0e14\u0e25\u0e02\u0e19\u0e32\u0e14 7B \u0e1a\u0e19\u0e01\u0e32\u0e23\u0e4c\u0e14\u0e08\u0e2d\u0e17\u0e35\u0e48\u0e21\u0e35 VRAM \u0e41\u0e04\u0e48 6-8GB \u0e44\u0e14\u0e49 \u0e41\u0e15\u0e48\u0e2d\u0e32\u0e08\u0e08\u0e30\u0e21\u0e35\u0e2d\u0e32\u0e01\u0e32\u0e23\u0e2b\u0e25\u0e2d\u0e19 (Hallucination) \u0e2b\u0e23\u0e37\u0e2d\u0e15\u0e2d\u0e1a\u0e04\u0e33\u0e16\u0e32\u0e21\u0e0b\u0e31\u0e1a\u0e0b\u0e49\u0e2d\u0e19\u0e44\u0e14\u0e49\u0e41\u0e22\u0e48\u0e25\u0e07 \u0e40\u0e21\u0e37\u0e48\u0e2d\u0e40\u0e17\u0e35\u0e22\u0e1a\u003C/p\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EFP8 / FP4 (8-bit / 4-bit Floating Point):\u003C/strong\u003E GPU \u0e22\u0e38\u0e04\u0e43\u0e2b\u0e21\u0e48 (\u0e40\u0e0a\u0e48\u0e19 NVIDIA Hopper \u0e2b\u0e23\u0e37\u0e2d Blackwell) \u0e23\u0e2d\u0e07\u0e23\u0e31\u0e1a\u0e01\u0e32\u0e23\u0e43\u0e0a\u0e49\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e04\u0e33\u0e19\u0e27\u0e13\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e44\u0e14\u0e49\u0e23\u0e30\u0e14\u0e31\u0e1a\u0e19\u0e36\u0e07 \u0e17\u0e33\u0e43\u0e2b\u0e49 Model \u0e21\u0e35\u0e04\u0e27\u0e32\u0e21\u0e41\u0e21\u0e48\u0e19\u0e22\u0e33\u0e14\u0e35\u0e01\u0e27\u0e48\u0e32\u0e41\u0e1a\u0e1a INT (Integer) \u0e43\u0e19\u0e08\u0e33\u0e19\u0e27\u0e19\u0e1a\u0e34\u0e15\u0e17\u0e35\u0e48\u0e40\u0e17\u0e48\u0e32\u0e01\u0e31\u0e19 \u0e41\u0e25\u0e30\u0e17\u0e35\u0e04\u0e27\u0e32\u0e21\u0e40\u0e23\u0e47\u0e27\u0e01\u0e32\u0e23 Inference \u0e44\u0e14\u0e49\u0e44\u0e27\u0e49\u0e14\u0e49\u0e27\u0e22\u003C/p\u003E\u003Cfigure\u003E\u003Cblockquote\u003E\u003Cp\u003E\u003Cem\u003E\u003Cstrong\u003E\u0e16\u0e36\u0e07\u0e15\u0e23\u0e07\u0e19\u0e35\u0e49\u0e08\u0e30\u0e40\u0e2b\u0e47\u0e19\u0e41\u0e25\u0e49\u0e27\u0e27\u0e48\u0e32 1 Petaflop \u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a Model FP64 (Super Computer 1 Cluster) / INT4 (PC + GPU \u0e2a\u0e31\u0e01\u0e43\u0e1a\u0e1e\u0e2d) \u0e21\u0e31\u0e19\u0e43\u0e0a\u0e49\u0e17\u0e23\u0e31\u0e1e\u0e22\u0e32\u0e01\u0e23\u0e15\u0e48\u0e32\u0e07\u0e01\u0e31\u0e19\u0e41\u0e04\u0e48\u0e44\u0e2b\u0e19 \u003C/strong\u003E\u003C/em\u003E\u003C/p\u003E\u003C/blockquote\u003E\u003C/figure\u003E\u003Ch4\u003E\u0e2d\u0e35\u0e01\u0e2b\u0e19\u0e48\u0e27\u0e22\u0e27\u0e31\u0e14\u0e17\u0e35\u0e48\u0e40\u0e08\u0e2d\u0e01\u0e31\u0e19 TOPS vs. TFLOPS\u003C/h4\u003E\u003Cul\u003E\u003Cli\u003E\u003Cstrong\u003ETFLOPS (\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21):\u003C/strong\u003E \u0e27\u0e31\u0e14\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e04\u0e33\u0e19\u0e27\u0e13\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21 (Floating-Point) \u0e02\u0e2d\u0e07 LLM \u0e01\u0e25\u0e38\u0e48\u0e21 FP / BP\u003C/li\u003E\u003Cli\u003E\u003Cstrong\u003ETOPS (\u0e08\u0e33\u0e19\u0e27\u0e19\u0e40\u0e15\u0e47\u0e21):\u003C/strong\u003E \u0e22\u0e48\u0e2d\u0e21\u0e32\u0e08\u0e32\u0e01 Tera Operations Per Second\u0e01 \u0e27\u0e31\u0e14\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e04\u0e33\u0e19\u0e27\u0e13\u0e08\u0e33\u0e19\u0e27\u0e19\u0e02\u0e2d\u0e07 LLM \u0e08\u0e30\u0e17\u0e14\u0e2a\u0e2d\u0e1a\u0e1a\u0e19 INT8 (\u0e40\u0e25\u0e02\u0e08\u0e33\u0e19\u0e27\u0e19\u0e40\u0e15\u0e47\u0e21 8 \u0e1a\u0e34\u0e15) \u0e2b\u0e23\u0e37\u0e2d INT4 \u003C/li\u003E\u003C/ul\u003E\u003Cblockquote\u003E\u003Cp\u003E\u0e21\u0e31\u0e19\u0e44\u0e21\u0e48\u0e15\u0e49\u0e2d\u0e07\u0e04\u0e34\u0e14\u0e40\u0e22\u0e2d\u0e30 \u0e40\u0e25\u0e22\u0e04\u0e33\u0e19\u0e27\u0e13\u0e44\u0e14\u0e49\u0e44\u0e27\u0e21\u0e32 \u0e17\u0e35\u0e48\u0e19\u0e35\u0e49\u0e40\u0e25\u0e22\u0e21\u0e35\u0e04\u0e19\u0e15\u0e35\u0e04\u0e27\u0e32\u0e21\u0e27\u0e48\u0e32 \u003Cstrong\u003E1000 TOPS = 1 Petaflop\u003C/strong\u003E \u0e40\u0e1b\u0e47\u0e19\u0e0a\u0e48\u0e2d\u0e07\u0e01\u0e32\u0e23\u0e02\u0e32\u0e22\u0e17\u0e35\u0e48\u0e2d\u0e32\u0e08\u0e08\u0e30\u0e2d\u0e18\u0e34\u0e1a\u0e32\u0e22\u0e41\u0e04\u0e48\u0e04\u0e27\u0e32\u0e21\u0e08\u0e23\u0e34\u0e07\u0e1a\u0e32\u0e07\u0e2a\u0e48\u0e27\u0e19\u0e08\u0e19\u0e40\u0e23\u0e32\u0e04\u0e34\u0e14\u0e44\u0e1b\u0e40\u0e2d\u0e07\u0e27\u0e48\u0e32 \u0e09\u0e31\u0e19\u0e0b\u0e37\u0e48\u0e2d Super Computer \u0e21\u0e32\u0e44\u0e27\u0e49\u0e17\u0e35\u0e48\u0e1a\u0e49\u0e32\u0e19\u0e44\u0e14\u0e49 \u0e08\u0e23\u0e34\u0e07\u0e46\u0e40\u0e2b\u0e47\u0e19 Review \u0e2d\u0e31\u0e19\u0e19\u0e36\u0e07\u0e17\u0e35\u0e48\u0e02\u0e32\u0e22\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07\u0e17\u0e35\u0e48\u0e21\u0e35 NPU \u0e41\u0e25\u0e49\u0e27\u0e04\u0e31\u0e19\u0e21\u0e37\u0e2d \u0e0b\u0e37\u0e49\u0e2d\u0e21\u0e32\u0e01\u0e47\u0e1e\u0e25\u0e32\u0e14\u0e40\u0e25\u0e22\u0e19\u0e30 \u003C/p\u003E\u003C/blockquote\u003E\u003Ch4\u003E\u0e19\u0e2d\u0e01\u0e08\u0e32\u0e01 TFLOPS \u0e17\u0e35\u0e48\u0e15\u0e49\u0e2d\u0e07\u0e2a\u0e19\u0e43\u0e08\u0e41\u0e25\u0e49\u0e27 \u0e22\u0e31\u0e07\u0e15\u0e49\u0e2d\u0e07\u0e2a\u0e19\u0e43\u0e08 Memory\u003C/h4\u003E\u003Cp\u003E\u0e16\u0e49\u0e32\u0e40\u0e23\u0e32 Run \u0e1a\u0e19 GPU \u0e15\u0e49\u0e2d\u0e07\u0e40\u0e25\u0e37\u0e2d\u0e01\u0e17\u0e35\u0e48 Model \u0e17\u0e35\u0e48\u0e40\u0e2b\u0e21\u0e32\u0e30\u0e01\u0e31\u0e1a GPU \u0e02\u0e2d\u0e07\u0e40\u0e23\u0e32\u0e14\u0e49\u0e27\u0e22 \u0e15\u0e2d\u0e19\u0e19\u0e35\u0e49\u0e21\u0e31\u0e19\u0e21\u0e32\u0e01\u0e2a\u0e38\u0e14 32 GB \u0e16\u0e49\u0e32\u0e43\u0e0a\u0e49\u0e1e\u0e27\u0e01 DGX \u0e21\u0e32\u0e01\u0e2a\u0e38\u0e14 128 GB \u0e41\u0e15\u0e48\u0e2d\u0e22\u0e48\u0e32\u0e25\u0e37\u0e21\u0e27\u0e48\u0e32\u0e40\u0e23\u0e32\u0e15\u0e49\u0e2d\u0e07\u0e41\u0e1a\u0e48\u0e07 Memory \u0e17\u0e31\u0e49\u0e07\u0e43\u0e19\u0e2a\u0e48\u0e27\u0e19\u0e02\u0e2d\u0e07 \u003C/p\u003E\u003Cul\u003E\u003Cli\u003EModel \u0e27\u0e48\u0e32\u0e43\u0e0a\u0e49\u0e44\u0e1b\u0e40\u0e17\u0e48\u0e32\u0e44\u0e2b\u0e23\u0e48\u003C/li\u003E\u003Cli\u003EKV Cache \u0e1e\u0e37\u0e49\u0e19\u0e17\u0e35\u0e48\u0e17\u0e35 Model \u0e43\u0e0a\u0e49\u0e17\u0e14 \u0e16\u0e49\u0e32\u0e44\u0e14\u0e49 RAM \u0e43\u0e01\u0e25\u0e49\u0e01\u0e31\u0e19 \u0e08\u0e30\u0e14\u0e35\u0e21\u0e32\u0e01 \u0e16\u0e49\u0e32\u0e02\u0e49\u0e32\u0e21\u0e08\u0e32\u0e01 GPU \u0026gt; Mem \u0e1b\u0e01\u0e15\u0e34 \u0e08\u0e30\u0e40\u0e01\u0e34\u0e14\u0e2d\u0e32\u0e01\u0e32\u0e23\u0e04\u0e2d\u0e02\u0e27\u0e14\u0e44\u0e14\u0e49\u003C/li\u003E\u003Cli\u003E\u0e15\u0e49\u0e2d\u0e07\u0e40\u0e2b\u0e25\u0e37\u0e2d\u0e43\u0e2b\u0e49\u0e15\u0e31\u0e27 OS \u0e2b\u0e25\u0e31\u0e01\u0e21\u0e31\u0e19\u0e17\u0e33\u0e07\u0e32\u0e19\u0e44\u0e14\u0e49\u0e14\u0e49\u0e27\u0e22\u0e19\u0e30\u003C/li\u003E\u003C/ul\u003E\u003Cp\u003E\u0e41\u0e21\u0e49\u0e27\u0e48\u0e32\u0e15\u0e31\u0e27 AI Runtime \u0e2b\u0e25\u0e32\u0e22\u0e46\u0e15\u0e31\u0e27 \u003Ca href=\u0022https://ollama.com/\u0022 rel=\u0022noopener\u0022\u003EOllama\u003C/a\u003E / \u003Ca href=\u0022https://lmstudio.ai/\u0022 rel=\u0022noopener\u0022\u003ELMStudio\u003C/a\u003E \u0e08\u0e30\u0e01\u0e33\u0e2b\u0e19\u0e14\u0e15\u0e31\u0e27 Memory \u0e43\u0e2b\u0e49 Model \u0e44\u0e14\u0e49 \u0e27\u0e48\u0e32\u0e43\u0e2a\u0e48\u0e25\u0e07 GPU \u0e40\u0e17\u0e48\u0e32\u0e44\u0e2b\u0e23\u0e48 Mem \u0e2d\u0e37\u0e48\u0e19\u0e40\u0e17\u0e48\u0e32\u0e44\u0e2b\u0e23\u0e48\u003C/p\u003E\u003Cp\u003E\u0e15\u0e2d\u0e19\u0e19\u0e35\u0e49\u0e23\u0e32\u0e04\u0e32\u0e02\u0e2d\u0e07 Hardware \u0e1e\u0e27\u0e01\u0e19\u0e35\u0e49\u0e19\u0e48\u0e32\u0e08\u0e30\u0e41\u0e1e\u0e07\u0e02\u0e36\u0e49\u0e19\u0e44\u0e1b\u0e40\u0e22\u0e2d\u0e30 \u0e40\u0e1e\u0e23\u0e32\u0e30 Draft Blog \u0e44\u0e27\u0e49\u0e15\u0e31\u0e48\u0e07\u0e41\u0e15\u0e48\u0e01\u0e48\u0e2d\u0e19\u0e2a\u0e07\u0e01\u0e23\u0e32\u0e19\u0e15\u0e4c \u003C/p\u003E\u003Cblockquote\u003E\u003Cp\u003E\u003Cstrong\u003E\u0e2a\u0e23\u0e38\u0e1b\u003C/strong\u003E 1 Petaflop \u0e44\u0e21\u0e48\u0e44\u0e14\u0e49\u0e40\u0e17\u0e48\u0e32\u0e01\u0e31\u0e19\u0e40\u0e2a\u0e21\u0e2d\u0e44\u0e1b \u0e40\u0e1e\u0e23\u0e32\u0e30\u0e02\u0e36\u0e49\u0e19\u0e2d\u0e22\u0e39\u0e48\u0e01\u0e31\u0e1a Precision (\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14) \u0e17\u0e35\u0e48\u0e43\u0e0a\u0e49 \u0e22\u0e34\u0e48\u0e07 Precision \u0e15\u0e48\u0e33 (\u0e40\u0e0a\u0e48\u0e19 FP8/INT4) \u0e15\u0e31\u0e27\u0e40\u0e25\u0e02 TFLOPS/TOPS \u0e08\u0e30\u0e22\u0e34\u0e48\u0e07\u0e1e\u0e38\u0e48\u0e07\u0e2a\u0e39\u0e07 \u0e41\u0e15\u0e48\u0e04\u0e27\u0e32\u0e21\u0e41\u0e21\u0e48\u0e19\u0e22\u0e33\u0e02\u0e2d\u0e07 Model \u0e08\u0e30\u0e25\u0e14\u0e25\u0e07 \u0e14\u0e31\u0e07\u0e19\u0e31\u0e49\u0e19\u0e40\u0e27\u0e25\u0e32\u0e40\u0e25\u0e37\u0e2d\u0e01\u0e0b\u0e37\u0e49\u0e2d\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07 \u0e2d\u0e22\u0e48\u0e32\u0e14\u0e39\u0e41\u0e04\u0e48\u0e40\u0e25\u0e02 Petaflop \u0e1a\u0e19\u0e01\u0e25\u0e48\u0e2d\u0e07 HW \u0e19\u0e31\u0e49\u0e19\u0e1e\u0e27\u0e01 DGX / GPU \u0e19\u0e31\u0e49\u0e19\u0e23\u0e2d\u0e07\u0e23\u0e31\u0e1a Precision \u0e41\u0e1a\u0e1a\u0e44\u0e2b\u0e19 \u0e41\u0e25\u0e30 VRAM \u0e40\u0e1e\u0e35\u0e22\u0e07\u0e1e\u0e2d\u0e15\u0e48\u0e2d\u0e02\u0e19\u0e32\u0e14 Model \u0e17\u0e35\u0e48\u0e40\u0e23\u0e32\u0e08\u0e30\u0e43\u0e0a\u0e49\u0e07\u0e32\u0e19\u0e2b\u0e23\u0e37\u0e2d\u0e44\u0e21\u0e48\u003C/p\u003E\u003C/blockquote\u003E\n\n\u003Ca rel=\u0022tag\u0022 class=\u0022hashtag u-tag u-category\u0022 href=\u0022https://naiwaen.debuggingsoft.com/tag/floating-point/\u0022\u003E#floatingPoint\u003C/a\u003E \u003Ca rel=\u0022tag\u0022 class=\u0022hashtag u-tag u-category\u0022 href=\u0022https://naiwaen.debuggingsoft.com/tag/ai/\u0022\u003E#AI\u003C/a\u003E \u003Ca rel=\u0022tag\u0022 class=\u0022hashtag u-tag u-category\u0022 href=\u0022https://naiwaen.debuggingsoft.com/tag/petaflop/\u0022\u003E#Petaflop\u003C/a\u003E \u003Ca rel=\u0022tag\u0022 class=\u0022hashtag u-tag u-category\u0022 href=\u0022https://naiwaen.debuggingsoft.com/tag/lc-3/\u0022\u003E#LC3\u003C/a\u003E","context":"https://naiwaen.debuggingsoft.com/wp-json/activitypub/1.0/posts/49525/context","contentMap":{"en":"\u003Ch2\u003EPetaflop \u0e02\u0e2d\u0e07\u0e40\u0e23\u0e32\u0e19\u0e31\u0e49\u0e19\u0e44\u0e21\u0e48\u0e40\u0e17\u0e48\u0e32\u0e01\u0e31\u0e19\u003C/h2\u003E\n\n\u003Cp\u003E\u0e0a\u0e48\u0e27\u0e07\u0e19\u0e35\u0e49\u0e40\u0e2b\u0e47\u0e19\u0e21\u0e35 Ads \u0e40\u0e22\u0e2d\u0e30 \u0e41\u0e1a\u0e1a\u0e02\u0e32\u0e22\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07 XXX \u0e2a\u0e32\u0e21\u0e32\u0e23\u0e16 Run AI \u0e44\u0e14\u0e49 1 Petaflop \u0e40\u0e2b\u0e21\u0e37\u0e2d\u0e19\u0e21\u0e35\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07 Super Computer \u0e2d\u0e22\u0e39\u0e48\u0e17\u0e35\u0e48\u0e1a\u0e49\u0e32\u0e19\u0e04\u0e38\u0e13\u0e40\u0e2d\u0e07 \u0e41\u0e15\u0e48\u0e17\u0e27\u0e48\u0e32\u0e1e\u0e2d\u0e40\u0e2d\u0e32 Model \u0e40\u0e14\u0e35\u0e22\u0e27\u0e01\u0e31\u0e19 \u0e41\u0e15\u0e48\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e15\u0e48\u0e32\u0e07\u0e01\u0e31\u0e19 \u0e04\u0e27\u0e32\u0e21\u0e40\u0e23\u0e47\u0e27\u0e43\u0e19\u0e01\u0e32\u0e23\u0e15\u0e2d\u0e1a\u0e2a\u0e19\u0e2d\u0e07\u0e15\u0e48\u0e32\u0e07\u0e01\u0e31\u0e19\u0e21\u0e32\u0e01\u0e42\u0e02\u0e40\u0e25\u0e22\u003C/p\u003E\u003Cdiv\u003E\u003C/div\u003E\u003Ch4\u003EFLOPS \u0e04\u0e37\u0e2d \u0e2d\u0e30\u0e44\u0e23\u003C/h4\u003E\u003Cp\u003EFLOPS (Floating-Point Operations Per Second) \u0e21\u0e2d\u0e07\u0e27\u0e48\u0e32\u0e40\u0e1b\u0e47\u0e19\u0e01\u0e32\u0e23\u0e27\u0e31\u0e14\u0e27\u0e48\u0e32\u003Cstrong\u003E\u0e43\u0e19 1 \u0e27\u0e34\u0e19\u0e32\u0e17\u0e35\u003C/strong\u003E \u0e15\u0e31\u0e27\u0e2b\u0e19\u0e48\u0e27\u0e22\u0e1b\u0e23\u0e30\u0e21\u0e27\u0e25\u0e1c\u0e25\u0e02\u0e2d\u0e07\u0e40\u0e23\u0e32\u0e44\u0e21\u0e48\u0e27\u0e48\u0e32\u0e08\u0e30\u0e40\u0e1b\u0e47\u0e19 GPU / NPU / CPU \u0e27\u0e48\u0e32\u0e08\u0e30\u003Cstrong\u003E\u0e04\u0e33\u0e19\u0e27\u0e13\u0e08\u0e38\u0e14\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e44\u0e14\u0e49\u0e40\u0e22\u0e2d\u0e30\u0e41\u0e04\u0e48\u0e44\u0e2b\u0e19\u003C/strong\u003E \u0e19\u0e31\u0e49\u0e19\u0e40\u0e2d\u0e07 \u003C/p\u003E\u003Ch4\u003EFloating Point \u0e04\u0e37\u0e2d \u0e2d\u0e30\u0e44\u0e23 \u003C/h4\u003E\u003Cp\u003EFloating Point \u0e23\u0e30\u0e1a\u0e1a\u0e01\u0e32\u0e23\u0e08\u0e31\u0e14\u0e40\u0e01\u0e47\u0e1a\u0e02\u0e49\u0e2d\u0e21\u0e39\u0e25\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e43\u0e19\u0e04\u0e2d\u0e21\u0e1e\u0e34\u0e27\u0e40\u0e15\u0e2d\u0e23\u0e4c\u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e04\u0e48\u0e32\u0e17\u0e35\u0e48\u0e21\u0e35\u0e08\u0e38\u0e14\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e2b\u0e23\u0e37\u0e2d\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e17\u0e35\u0e48\u0e21\u0e35\u0e04\u0e48\u0e32\u0e21\u0e32\u0e01/\u0e19\u0e49\u0e2d\u0e22\u0e21\u0e32\u0e01\u0e46 \u0e40\u0e17\u0e48\u0e32\u0e17\u0e35\u0e48\u0e08\u0e30\u0e40\u0e01\u0e47\u0e1a\u0e15\u0e23\u0e07\u0e46 \u0e41\u0e1a\u0e1a\u0e1e\u0e27\u0e01 Scientific Notation \u0e2d\u0e31\u0e19\u0e19\u0e35\u0e49\u0e1c\u0e21\u0e22\u0e49\u0e2d\u0e19\u0e01\u0e25\u0e31\u0e1a\u0e44\u0e1b \u0e1b\u0e351 \u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07 \u003Ca href=\u0022https://wchargin.com/lc3web/\u0022 rel=\u0022noreferrer noopener\u0022\u003ELC-3\u003C/a\u003E \u0e40\u0e04\u0e49\u0e32\u0e08\u0e30\u0e21\u0e35\u0e2d\u0e49\u0e32\u0e07\u0e2d\u0e34\u0e07\u0e21\u0e32\u0e15\u0e23\u0e10\u0e32\u0e19\u0e19\u0e36\u0e07 IEEE 754 \u0e41\u0e1a\u0e48\u0e07\u0e1e\u0e37\u0e49\u0e19\u0e17\u0e35\u0e01\u0e32\u0e23\u0e40\u0e01\u0e47\u0e1a\u0e1e\u0e27\u0e01 Floating Point \u0e2d\u0e2d\u0e01\u0e40\u0e1b\u0e47\u0e19 3 \u0e2a\u0e48\u0e27\u0e19\u003C/p\u003E\u003Cul\u003E\u003Cli\u003E\u003Cstrong\u003Esign\u003C/strong\u003E \u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07\u0e2b\u0e21\u0e32\u0e22 \u0e1a\u0e27\u0e01/\u0e25\u0e1a\u003C/li\u003E\u003Cli\u003E\u003Cstrong\u003Eexponent\u003C/strong\u003E -\u0e40\u0e25\u0e02\u0e22\u0e01\u0e01\u0e33\u0e25\u0e31\u0e07\u0e1a\u0e2d\u0e01\u0e27\u0e48\u0e32\u0e0a\u0e48\u0e27\u0e07\u0e04\u0e48\u0e32\u0e43\u0e2b\u0e0d\u0e48\u0e48 \u0e40\u0e25\u0e47\u0e01\u0e41\u0e04\u0e48\u0e44\u0e2b\u0e19\u003C/li\u003E\u003Cli\u003E\u003Cstrong\u003Emantissa\u003C/strong\u003E  - \u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14 \u0e27\u0e48\u0e32\u0e23\u0e30\u0e1a\u0e38\u0e44\u0e14\u0e49\u0e01\u0e35\u0e48\u0e2b\u0e25\u0e31\u0e01\u003C/li\u003E\u003C/ul\u003E\u003Cp\u003E\u0e2d\u0e35\u0e01\u0e41\u0e1a\u0e1a\u0e19\u0e2d\u0e01\u0e08\u0e32\u0e01 Floating Point \u0e01\u0e47 INT \u0e40\u0e01\u0e47\u0e1a\u0e08\u0e33\u0e19\u0e27\u0e19\u0e40\u0e15\u0e47\u0e21\u0e25\u0e49\u0e27\u0e19\u0e46 \u0e1b\u0e23\u0e30\u0e2b\u0e22\u0e31\u0e14\u0e1e\u0e37\u0e49\u0e19\u0e17\u0e35\u0e48\u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e1e\u0e27\u0e01\u0e17\u0e34\u0e28\u0e19\u0e34\u0e22\u0e21\u0e25\u0e07 \u003C/p\u003E\u003Cblockquote\u003E\u003Cp\u003E\u0e04\u0e27\u0e32\u0e21\u0e15\u0e48\u0e32\u0e07\u0e17\u0e31\u0e49\u0e07\u0e2b\u0e21\u0e14\u0e21\u0e32\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e41\u0e1a\u0e48\u0e07\u0e19\u0e35\u0e49\u0e41\u0e2b\u0e25\u0e30 \u2014 \u0e16\u0e49\u0e32 Bit \u0e22\u0e34\u0e07\u0e19\u0e49\u0e2d\u0e22 \u0e21\u0e31\u0e19\u0e08\u0e30\u0e43\u0e0a\u0e49\u0e2b\u0e19\u0e48\u0e27\u0e22\u0e04\u0e27\u0e32\u0e21\u0e08\u0e33\u0e19\u0e49\u0e2d\u0e22\u0e41\u0e25\u0e30\u0e04\u0e33\u0e19\u0e27\u0e13\u0e40\u0e23\u0e47\u0e27 \u0e41\u0e15\u0e48\u0e01\u0e47\u0e40\u0e2a\u0e35\u0e22\u0e17\u0e31\u0e49\u0e07\u0e0a\u0e48\u0e27\u0e07\u0e04\u0e48\u0e32\u0e41\u0e25\u0e30\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e44\u0e1b\u003C/p\u003E\u003C/blockquote\u003E\u003Ch4\u003E\u0e40\u0e27\u0e25\u0e32\u0e44\u0e1b\u0e1f\u0e31\u0e07\u0e40\u0e04\u0e49\u0e32\u0e02\u0e32\u0e22 XXX 1 Petaflop \u0e21\u0e32\u0e08\u0e32\u0e01\u0e44\u0e2b\u0e19 ?\u003C/h4\u003E\u003Cp\u003E\u0e2d\u0e31\u0e19\u0e19\u0e35\u0e49\u0e15\u0e49\u0e2d\u0e07\u0e22\u0e49\u0e32\u0e22\u0e44\u0e1b\u0e14\u0e39\u0e17\u0e35\u0e48\u0e15\u0e31\u0e27 Model \u0e01\u0e31\u0e19\u0e01\u0e48\u0e2d\u0e19 \u0e1e\u0e2d\u0e14\u0e35\u0e1c\u0e21\u0e44\u0e1b\u0e1f\u0e31\u0e07 Talk \u0e2b\u0e25\u0e32\u0e22 Session \u0e40\u0e0a\u0e48\u0e19 \u003Ca href=\u0022https://naiwaen.debuggingsoft.com/2026/05/recap-agentcamp-bangkok-2026/#if-you-need-local-what-you-should-know-to-fit-your-budget\u0022 rel=\u0022noreferrer noopener\u0022\u003EIf you need Local what you should know to fit your budget (AgentCamp Bangkok 2026) \u003C/a\u003E\u0e40\u0e1b\u0e47\u0e19\u0e15\u0e49\u0e19 \u0e40\u0e25\u0e22\u0e44\u0e14\u0e49\u0e21\u0e32\u0e08\u0e14\u0e46\u0e44\u0e27\u0e49 \u0e15\u0e31\u0e27 AI Model \u0e21\u0e31\u0e19\u0e08\u0e30\u0e21\u0e32\u0e15\u0e23\u0e27\u0e31\u0e14\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e43\u0e19\u0e01\u0e32\u0e23\u0e04\u0e33\u0e19\u0e27\u0e13 \u0e22\u0e34\u0e48\u0e07\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e40\u0e22\u0e2d\u0e30\u0e21\u0e32\u0e01 \u0e21\u0e31\u0e19\u0e08\u0e30\u0e22\u0e34\u0e48\u0e07\u0e40\u0e01\u0e48\u0e07\u0e43\u0e0a\u0e49 Processor / Memory / Disk \u0e40\u0e22\u0e2d\u0e30\u0e15\u0e32\u0e21 \u0e44\u0e25\u0e48\u0e15\u0e32\u0e21\u0e40\u0e22\u0e2d\u0e30\u0e2a\u0e38\u0e14\u003C/p\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EFP64 (Double Precision)\u003C/strong\u003E - \u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e17\u0e35\u0e48\u0e02\u0e2d\u0e07 Model \u0e17\u0e35\u0e48\u0e1e\u0e27\u0e01 Supercomputer \u0e41\u0e1a\u0e1a HPC \u0e43\u0e0a\u0e49\u0e01\u0e31\u0e19 \u0e17\u0e35\u0e48\u0e15\u0e49\u0e2d\u0e07\u0e43\u0e0a\u0e49\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e02\u0e19\u0e32\u0e14\u0e19\u0e31\u0e49\u0e19 \u0e40\u0e1e\u0e23\u0e32\u0e30 \u003C/p\u003E\u003Cul\u003E\u003Cli\u003EFloating-Point Error (\u0e04\u0e27\u0e32\u0e21\u0e04\u0e25\u0e32\u0e14\u0e40\u0e04\u0e25\u0e37\u0e48\u0e2d\u0e19\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e1b\u0e31\u0e14\u0e40\u0e28\u0e29) \u0e21\u0e31\u0e19\u0e41\u0e17\u0e19\u0e14\u0e49\u0e27\u0e22\u0e40\u0e25\u0e02\u0e10\u0e32\u0e19 2 \u0e41\u0e25\u0e49\u0e27\u0e16\u0e49\u0e32\u0e04\u0e33\u0e19\u0e27\u0e13\u0e17\u0e14\u0e44\u0e1b\u0e40\u0e23\u0e37\u0e48\u0e2d\u0e22 \u0e04\u0e48\u0e32 Floating-Point Error \u0e21\u0e31\u0e19\u0e08\u0e30\u0e2a\u0e30\u0e2a\u0e21\u0e17\u0e14\u0e44\u0e1b\u0e17\u0e35\u0e48\u0e25\u0e30\u0e40\u0e25\u0e47\u0e01\u0e19\u0e49\u0e2d\u0e22 \u003C/li\u003E\u003Cli\u003E\u0e07\u0e32\u0e19\u0e17\u0e35\u0e48\u0e43\u0e0a\u0e49\u0e21\u0e31\u0e19\u0e1e\u0e25\u0e32\u0e14\u0e44\u0e21\u0e48\u0e44\u0e14\u0e49 \u0e40\u0e0a\u0e48\u0e19 \u0e01\u0e32\u0e23\u0e2b\u0e32\u0e15\u0e31\u0e27\u0e22\u0e32 \u0e04\u0e33\u0e19\u0e27\u0e13\u0e2a\u0e20\u0e32\u0e1e\u0e2d\u0e32\u0e01\u0e32\u0e28 \u0e2b\u0e23\u0e37\u0e2d \u0e2d\u0e2d\u0e01\u0e41\u0e1a\u0e1a\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07\u0e1a\u0e34\u0e19, \u0e08\u0e23\u0e27\u0e14 \u0e27\u0e34\u0e16\u0e35\u0e01\u0e32\u0e23\u0e22\u0e34\u0e07 \u0e40\u0e1b\u0e47\u0e19\u0e15\u0e49\u0e19\u003C/li\u003E\u003C/ul\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EFP32 (Single Precision)\u003C/strong\u003E - \u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e01\u0e23\u0e32\u0e1f\u0e34\u0e01 3D \u0e41\u0e25\u0e30\u0e01\u0e32\u0e23\u0e40\u0e17\u0e23\u0e19 AI \u0e22\u0e38\u0e04\u0e41\u0e23\u0e01\u0e46 \u003C/p\u003E\u003Cblockquote\u003E\u003Cp\u003E2 \u0e41\u0e1a\u0e1a\u0e02\u0e49\u0e32\u0e07\u0e15\u0e49\u0e19\u0e21\u0e31\u0e19\u0e43\u0e0a\u0e49 Resource \u0e40\u0e22\u0e2d\u0e30\u0e21\u0e32\u0e01\u0e17\u0e31\u0e49\u0e07 CPU GPU RAM Disk \u0e15\u0e31\u0e2d\u0e07\u0e41\u0e23\u0e07\u0e21\u0e32\u0e01\u0e46 \u0e41\u0e25\u0e49\u0e27\u0e21\u0e35\u0e40\u0e22\u0e2d\u0e30\u0e14\u0e49\u0e27\u0e22 \u0e21\u0e32\u0e43\u0e0a\u0e49\u0e41\u0e1a\u0e1a\u0e17\u0e35\u0e48 Optimal \u0e17\u0e35\u0e48\u0e2a\u0e38\u0e14\u0e43\u0e19\u0e15\u0e2d\u0e19\u0e19\u0e35\u0e49\u003C/p\u003E\u003C/blockquote\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EFP16 (Half Precision - 16 bits):\u003C/strong\u003E \u0e25\u0e14\u0e08\u0e33\u0e19\u0e27\u0e19 Bit  \u0e25\u0e07\u0e04\u0e23\u0e36\u0e48\u0e07\u0e2b\u0e19\u0e36\u0e48\u0e07 \u0e17\u0e33\u0e43\u0e2b\u0e49\u0e01\u0e34\u0e19 VRAM \u0e25\u0e14\u0e25\u0e07 50% \u0e41\u0e25\u0e30\u0e04\u0e33\u0e19\u0e27\u0e13\u0e44\u0e14\u0e49\u0e40\u0e23\u0e47\u0e27\u0e02\u0e36\u0e49\u0e19\u0e21\u0e32\u0e01 \u0e41\u0e15\u0e48\u0e02\u0e49\u0e2d\u0e40\u0e2a\u0e35\u0e22\u0e04\u0e37\u0e2d\u0e21\u0e35\u0e23\u0e30\u0e22\u0e30 (Range) \u0e02\u0e2d\u0e07\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e17\u0e35\u0e48\u0e41\u0e04\u0e1a\u0e25\u0e07 \u0e1a\u0e32\u0e07\u0e04\u0e23\u0e31\u0e49\u0e07\u0e17\u0e33\u0e43\u0e2b\u0e49\u0e40\u0e01\u0e34\u0e14\u0e1b\u0e31\u0e0d\u0e2b\u0e32 Underflow/Overflow (\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e19\u0e49\u0e2d\u0e22\u0e2b\u0e23\u0e37\u0e2d\u0e21\u0e32\u0e01\u0e40\u0e01\u0e34\u0e19\u0e01\u0e27\u0e48\u0e32\u0e17\u0e35\u0e48\u0e23\u0e30\u0e1a\u0e1a\u0e08\u0e30\u0e40\u0e01\u0e47\u0e1a\u0e44\u0e14\u0e49) \u0e40\u0e27\u0e25\u0e32\u0e40\u0e17\u0e23\u0e19\u0e42\u0e21\u0e40\u0e14\u0e25\u003C/p\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EBF16 (Brain Floating Point - 16 bits):\u003C/strong\u003E \u003Ca href=\u0022https://cloud.google.com/blog/products/ai-machine-learning/bfloat16-the-secret-to-high-performance-on-cloud-tpus\u0022 rel=\u0022noopener\u0022\u003E\u0e16\u0e39\u0e01\u0e1e\u0e31\u0e12\u0e19\u0e32\u0e42\u0e14\u0e22 Google\u003C/a\u003E \u0e40\u0e1e\u0e37\u0e48\u0e2d\u0e41\u0e01\u0e49\u0e08\u0e38\u0e14\u0e2d\u0e48\u0e2d\u0e19\u0e02\u0e2d\u0e07 FP16 \u0e42\u0e14\u0e22\u0e21\u0e31\u0e19\u0e08\u0e30\u0e43\u0e0a\u0e49 \u0e3aBit \u0e43\u0e19\u0e01\u0e32\u0e23\u0e40\u0e01\u0e47\u0e1a Exponent (\u0e0a\u0e48\u0e27\u0e07\u0e02\u0e2d\u0e07\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02) \u0e40\u0e17\u0e48\u0e32\u0e01\u0e31\u0e1a FP32 \u0e41\u0e15\u0e48\u0e25\u0e14\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e02\u0e2d\u0e07\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21 (Mantissa) \u0e25\u0e07\u0e41\u0e17\u0e19 \u0e0b\u0e36\u0e48\u0e07\u0e27\u0e34\u0e18\u0e35\u0e19\u0e35\u0e49\u0e40\u0e1b\u0e47\u0e19\u0e17\u0e35\u0e48\u0e19\u0e34\u0e22\u0e21\u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e01\u0e32\u0e23 Train LLM Model \u0e40\u0e1e\u0e23\u0e32\u0e30\u0e23\u0e31\u0e01\u0e29\u0e32\u0e40\u0e2a\u0e16\u0e35\u0e22\u0e23\u0e20\u0e32\u0e1e\u0e44\u0e14\u0e49\u0e14\u0e35\u003C/p\u003E\u003Cblockquote\u003E\u003Cp\u003E\u0e41\u0e15\u0e48 FP16 / BF16 \u0e21\u0e31\u0e19\u0e22\u0e31\u0e07\u0e43\u0e0a\u0e49 Spec \u0e41\u0e23\u0e07\u0e2d\u0e22\u0e39\u0e48\u0e14\u0e35 \u0e40\u0e25\u0e19\u0e21\u0e35 Idea \u0e01\u0e32\u0e23\u0e17\u0e33 Quantization \u0e40\u0e1e\u0e37\u0e48\u0e2d\u0e25\u0e14\u0e08\u0e33\u0e19\u0e27\u0e19 Param \u0e41\u0e25\u0e30\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14\u0e25\u0e07 \u0e42\u0e14\u0e22\u0e17\u0e35\u0e48\u0e04\u0e38\u0e13\u0e20\u0e32\u0e1e\u0e22\u0e31\u0e07\u0e23\u0e31\u0e1a\u0e44\u0e14\u0e49\u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a Local Model \u0e21\u0e35 Idea \u0e15\u0e32\u0e21\u0e19\u0e35\u0e49\u003C/p\u003E\u003C/blockquote\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EINT8 (8-bit Integer):\u003C/strong\u003E \u0e41\u0e1b\u0e25\u0e07\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21 (Floating Point) \u0e43\u0e2b\u0e49\u0e01\u0e25\u0e32\u0e22\u0e40\u0e1b\u0e47\u0e19\u0e08\u0e33\u0e19\u0e27\u0e19\u0e40\u0e15\u0e47\u0e21 (Integer) \u0e02\u0e19\u0e32\u0e14 8 \u0e1a\u0e34\u0e15 \u0e25\u0e14\u0e01\u0e32\u0e23\u0e43\u0e0a\u0e49 VRAM \u0e25\u0e07\u0e44\u0e14\u0e49\u0e2d\u0e35\u0e01\u0e04\u0e23\u0e36\u0e48\u0e07\u0e2b\u0e19\u0e36\u0e48\u0e07\u0e08\u0e32\u0e01 FP16 \u003C/p\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EINT4 (4-bit Integer):\u003C/strong\u003E \u0e1a\u0e35\u0e1a\u0e2d\u0e31\u0e14\u0e02\u0e31\u0e49\u0e19\u0e2a\u0e38\u0e14 \u0e43\u0e0a\u0e49\u0e23\u0e48\u0e27\u0e21\u0e01\u0e31\u0e1a\u0e1f\u0e2d\u0e23\u0e4c\u0e41\u0e21\u0e15\u0e2d\u0e22\u0e48\u0e32\u0e07 GGUF \u0e2b\u0e23\u0e37\u0e2d AWQ \u0e17\u0e33\u0e43\u0e2b\u0e49\u0e2a\u0e32\u0e21\u0e32\u0e23\u0e16\u0e23\u0e31\u0e19\u0e42\u0e21\u0e40\u0e14\u0e25\u0e02\u0e19\u0e32\u0e14 7B \u0e1a\u0e19\u0e01\u0e32\u0e23\u0e4c\u0e14\u0e08\u0e2d\u0e17\u0e35\u0e48\u0e21\u0e35 VRAM \u0e41\u0e04\u0e48 6-8GB \u0e44\u0e14\u0e49 \u0e41\u0e15\u0e48\u0e2d\u0e32\u0e08\u0e08\u0e30\u0e21\u0e35\u0e2d\u0e32\u0e01\u0e32\u0e23\u0e2b\u0e25\u0e2d\u0e19 (Hallucination) \u0e2b\u0e23\u0e37\u0e2d\u0e15\u0e2d\u0e1a\u0e04\u0e33\u0e16\u0e32\u0e21\u0e0b\u0e31\u0e1a\u0e0b\u0e49\u0e2d\u0e19\u0e44\u0e14\u0e49\u0e41\u0e22\u0e48\u0e25\u0e07 \u0e40\u0e21\u0e37\u0e48\u0e2d\u0e40\u0e17\u0e35\u0e22\u0e1a\u003C/p\u003E\u003Cp\u003E\ud83d\udccc \u003Cstrong\u003EFP8 / FP4 (8-bit / 4-bit Floating Point):\u003C/strong\u003E GPU \u0e22\u0e38\u0e04\u0e43\u0e2b\u0e21\u0e48 (\u0e40\u0e0a\u0e48\u0e19 NVIDIA Hopper \u0e2b\u0e23\u0e37\u0e2d Blackwell) \u0e23\u0e2d\u0e07\u0e23\u0e31\u0e1a\u0e01\u0e32\u0e23\u0e43\u0e0a\u0e49\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e04\u0e33\u0e19\u0e27\u0e13\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21\u0e44\u0e14\u0e49\u0e23\u0e30\u0e14\u0e31\u0e1a\u0e19\u0e36\u0e07 \u0e17\u0e33\u0e43\u0e2b\u0e49 Model \u0e21\u0e35\u0e04\u0e27\u0e32\u0e21\u0e41\u0e21\u0e48\u0e19\u0e22\u0e33\u0e14\u0e35\u0e01\u0e27\u0e48\u0e32\u0e41\u0e1a\u0e1a INT (Integer) \u0e43\u0e19\u0e08\u0e33\u0e19\u0e27\u0e19\u0e1a\u0e34\u0e15\u0e17\u0e35\u0e48\u0e40\u0e17\u0e48\u0e32\u0e01\u0e31\u0e19 \u0e41\u0e25\u0e30\u0e17\u0e35\u0e04\u0e27\u0e32\u0e21\u0e40\u0e23\u0e47\u0e27\u0e01\u0e32\u0e23 Inference \u0e44\u0e14\u0e49\u0e44\u0e27\u0e49\u0e14\u0e49\u0e27\u0e22\u003C/p\u003E\u003Cfigure\u003E\u003Cblockquote\u003E\u003Cp\u003E\u003Cem\u003E\u003Cstrong\u003E\u0e16\u0e36\u0e07\u0e15\u0e23\u0e07\u0e19\u0e35\u0e49\u0e08\u0e30\u0e40\u0e2b\u0e47\u0e19\u0e41\u0e25\u0e49\u0e27\u0e27\u0e48\u0e32 1 Petaflop \u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a Model FP64 (Super Computer 1 Cluster) / INT4 (PC + GPU \u0e2a\u0e31\u0e01\u0e43\u0e1a\u0e1e\u0e2d) \u0e21\u0e31\u0e19\u0e43\u0e0a\u0e49\u0e17\u0e23\u0e31\u0e1e\u0e22\u0e32\u0e01\u0e23\u0e15\u0e48\u0e32\u0e07\u0e01\u0e31\u0e19\u0e41\u0e04\u0e48\u0e44\u0e2b\u0e19 \u003C/strong\u003E\u003C/em\u003E\u003C/p\u003E\u003C/blockquote\u003E\u003C/figure\u003E\u003Ch4\u003E\u0e2d\u0e35\u0e01\u0e2b\u0e19\u0e48\u0e27\u0e22\u0e27\u0e31\u0e14\u0e17\u0e35\u0e48\u0e40\u0e08\u0e2d\u0e01\u0e31\u0e19 TOPS vs. TFLOPS\u003C/h4\u003E\u003Cul\u003E\u003Cli\u003E\u003Cstrong\u003ETFLOPS (\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21):\u003C/strong\u003E \u0e27\u0e31\u0e14\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e04\u0e33\u0e19\u0e27\u0e13\u0e15\u0e31\u0e27\u0e40\u0e25\u0e02\u0e17\u0e28\u0e19\u0e34\u0e22\u0e21 (Floating-Point) \u0e02\u0e2d\u0e07 LLM \u0e01\u0e25\u0e38\u0e48\u0e21 FP / BP\u003C/li\u003E\u003Cli\u003E\u003Cstrong\u003ETOPS (\u0e08\u0e33\u0e19\u0e27\u0e19\u0e40\u0e15\u0e47\u0e21):\u003C/strong\u003E \u0e22\u0e48\u0e2d\u0e21\u0e32\u0e08\u0e32\u0e01 Tera Operations Per Second\u0e01 \u0e27\u0e31\u0e14\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e04\u0e33\u0e19\u0e27\u0e13\u0e08\u0e33\u0e19\u0e27\u0e19\u0e02\u0e2d\u0e07 LLM \u0e08\u0e30\u0e17\u0e14\u0e2a\u0e2d\u0e1a\u0e1a\u0e19 INT8 (\u0e40\u0e25\u0e02\u0e08\u0e33\u0e19\u0e27\u0e19\u0e40\u0e15\u0e47\u0e21 8 \u0e1a\u0e34\u0e15) \u0e2b\u0e23\u0e37\u0e2d INT4 \u003C/li\u003E\u003C/ul\u003E\u003Cblockquote\u003E\u003Cp\u003E\u0e21\u0e31\u0e19\u0e44\u0e21\u0e48\u0e15\u0e49\u0e2d\u0e07\u0e04\u0e34\u0e14\u0e40\u0e22\u0e2d\u0e30 \u0e40\u0e25\u0e22\u0e04\u0e33\u0e19\u0e27\u0e13\u0e44\u0e14\u0e49\u0e44\u0e27\u0e21\u0e32 \u0e17\u0e35\u0e48\u0e19\u0e35\u0e49\u0e40\u0e25\u0e22\u0e21\u0e35\u0e04\u0e19\u0e15\u0e35\u0e04\u0e27\u0e32\u0e21\u0e27\u0e48\u0e32 \u003Cstrong\u003E1000 TOPS = 1 Petaflop\u003C/strong\u003E \u0e40\u0e1b\u0e47\u0e19\u0e0a\u0e48\u0e2d\u0e07\u0e01\u0e32\u0e23\u0e02\u0e32\u0e22\u0e17\u0e35\u0e48\u0e2d\u0e32\u0e08\u0e08\u0e30\u0e2d\u0e18\u0e34\u0e1a\u0e32\u0e22\u0e41\u0e04\u0e48\u0e04\u0e27\u0e32\u0e21\u0e08\u0e23\u0e34\u0e07\u0e1a\u0e32\u0e07\u0e2a\u0e48\u0e27\u0e19\u0e08\u0e19\u0e40\u0e23\u0e32\u0e04\u0e34\u0e14\u0e44\u0e1b\u0e40\u0e2d\u0e07\u0e27\u0e48\u0e32 \u0e09\u0e31\u0e19\u0e0b\u0e37\u0e48\u0e2d Super Computer \u0e21\u0e32\u0e44\u0e27\u0e49\u0e17\u0e35\u0e48\u0e1a\u0e49\u0e32\u0e19\u0e44\u0e14\u0e49 \u0e08\u0e23\u0e34\u0e07\u0e46\u0e40\u0e2b\u0e47\u0e19 Review \u0e2d\u0e31\u0e19\u0e19\u0e36\u0e07\u0e17\u0e35\u0e48\u0e02\u0e32\u0e22\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07\u0e17\u0e35\u0e48\u0e21\u0e35 NPU \u0e41\u0e25\u0e49\u0e27\u0e04\u0e31\u0e19\u0e21\u0e37\u0e2d \u0e0b\u0e37\u0e49\u0e2d\u0e21\u0e32\u0e01\u0e47\u0e1e\u0e25\u0e32\u0e14\u0e40\u0e25\u0e22\u0e19\u0e30 \u003C/p\u003E\u003C/blockquote\u003E\u003Ch4\u003E\u0e19\u0e2d\u0e01\u0e08\u0e32\u0e01 TFLOPS \u0e17\u0e35\u0e48\u0e15\u0e49\u0e2d\u0e07\u0e2a\u0e19\u0e43\u0e08\u0e41\u0e25\u0e49\u0e27 \u0e22\u0e31\u0e07\u0e15\u0e49\u0e2d\u0e07\u0e2a\u0e19\u0e43\u0e08 Memory\u003C/h4\u003E\u003Cp\u003E\u0e16\u0e49\u0e32\u0e40\u0e23\u0e32 Run \u0e1a\u0e19 GPU \u0e15\u0e49\u0e2d\u0e07\u0e40\u0e25\u0e37\u0e2d\u0e01\u0e17\u0e35\u0e48 Model \u0e17\u0e35\u0e48\u0e40\u0e2b\u0e21\u0e32\u0e30\u0e01\u0e31\u0e1a GPU \u0e02\u0e2d\u0e07\u0e40\u0e23\u0e32\u0e14\u0e49\u0e27\u0e22 \u0e15\u0e2d\u0e19\u0e19\u0e35\u0e49\u0e21\u0e31\u0e19\u0e21\u0e32\u0e01\u0e2a\u0e38\u0e14 32 GB \u0e16\u0e49\u0e32\u0e43\u0e0a\u0e49\u0e1e\u0e27\u0e01 DGX \u0e21\u0e32\u0e01\u0e2a\u0e38\u0e14 128 GB \u0e41\u0e15\u0e48\u0e2d\u0e22\u0e48\u0e32\u0e25\u0e37\u0e21\u0e27\u0e48\u0e32\u0e40\u0e23\u0e32\u0e15\u0e49\u0e2d\u0e07\u0e41\u0e1a\u0e48\u0e07 Memory \u0e17\u0e31\u0e49\u0e07\u0e43\u0e19\u0e2a\u0e48\u0e27\u0e19\u0e02\u0e2d\u0e07 \u003C/p\u003E\u003Cul\u003E\u003Cli\u003EModel \u0e27\u0e48\u0e32\u0e43\u0e0a\u0e49\u0e44\u0e1b\u0e40\u0e17\u0e48\u0e32\u0e44\u0e2b\u0e23\u0e48\u003C/li\u003E\u003Cli\u003EKV Cache \u0e1e\u0e37\u0e49\u0e19\u0e17\u0e35\u0e48\u0e17\u0e35 Model \u0e43\u0e0a\u0e49\u0e17\u0e14 \u0e16\u0e49\u0e32\u0e44\u0e14\u0e49 RAM \u0e43\u0e01\u0e25\u0e49\u0e01\u0e31\u0e19 \u0e08\u0e30\u0e14\u0e35\u0e21\u0e32\u0e01 \u0e16\u0e49\u0e32\u0e02\u0e49\u0e32\u0e21\u0e08\u0e32\u0e01 GPU \u0026gt; Mem \u0e1b\u0e01\u0e15\u0e34 \u0e08\u0e30\u0e40\u0e01\u0e34\u0e14\u0e2d\u0e32\u0e01\u0e32\u0e23\u0e04\u0e2d\u0e02\u0e27\u0e14\u0e44\u0e14\u0e49\u003C/li\u003E\u003Cli\u003E\u0e15\u0e49\u0e2d\u0e07\u0e40\u0e2b\u0e25\u0e37\u0e2d\u0e43\u0e2b\u0e49\u0e15\u0e31\u0e27 OS \u0e2b\u0e25\u0e31\u0e01\u0e21\u0e31\u0e19\u0e17\u0e33\u0e07\u0e32\u0e19\u0e44\u0e14\u0e49\u0e14\u0e49\u0e27\u0e22\u0e19\u0e30\u003C/li\u003E\u003C/ul\u003E\u003Cp\u003E\u0e41\u0e21\u0e49\u0e27\u0e48\u0e32\u0e15\u0e31\u0e27 AI Runtime \u0e2b\u0e25\u0e32\u0e22\u0e46\u0e15\u0e31\u0e27 \u003Ca href=\u0022https://ollama.com/\u0022 rel=\u0022noopener\u0022\u003EOllama\u003C/a\u003E / \u003Ca href=\u0022https://lmstudio.ai/\u0022 rel=\u0022noopener\u0022\u003ELMStudio\u003C/a\u003E \u0e08\u0e30\u0e01\u0e33\u0e2b\u0e19\u0e14\u0e15\u0e31\u0e27 Memory \u0e43\u0e2b\u0e49 Model \u0e44\u0e14\u0e49 \u0e27\u0e48\u0e32\u0e43\u0e2a\u0e48\u0e25\u0e07 GPU \u0e40\u0e17\u0e48\u0e32\u0e44\u0e2b\u0e23\u0e48 Mem \u0e2d\u0e37\u0e48\u0e19\u0e40\u0e17\u0e48\u0e32\u0e44\u0e2b\u0e23\u0e48\u003C/p\u003E\u003Cp\u003E\u0e15\u0e2d\u0e19\u0e19\u0e35\u0e49\u0e23\u0e32\u0e04\u0e32\u0e02\u0e2d\u0e07 Hardware \u0e1e\u0e27\u0e01\u0e19\u0e35\u0e49\u0e19\u0e48\u0e32\u0e08\u0e30\u0e41\u0e1e\u0e07\u0e02\u0e36\u0e49\u0e19\u0e44\u0e1b\u0e40\u0e22\u0e2d\u0e30 \u0e40\u0e1e\u0e23\u0e32\u0e30 Draft Blog \u0e44\u0e27\u0e49\u0e15\u0e31\u0e48\u0e07\u0e41\u0e15\u0e48\u0e01\u0e48\u0e2d\u0e19\u0e2a\u0e07\u0e01\u0e23\u0e32\u0e19\u0e15\u0e4c \u003C/p\u003E\u003Cblockquote\u003E\u003Cp\u003E\u003Cstrong\u003E\u0e2a\u0e23\u0e38\u0e1b\u003C/strong\u003E 1 Petaflop \u0e44\u0e21\u0e48\u0e44\u0e14\u0e49\u0e40\u0e17\u0e48\u0e32\u0e01\u0e31\u0e19\u0e40\u0e2a\u0e21\u0e2d\u0e44\u0e1b \u0e40\u0e1e\u0e23\u0e32\u0e30\u0e02\u0e36\u0e49\u0e19\u0e2d\u0e22\u0e39\u0e48\u0e01\u0e31\u0e1a Precision (\u0e04\u0e27\u0e32\u0e21\u0e25\u0e30\u0e40\u0e2d\u0e35\u0e22\u0e14) \u0e17\u0e35\u0e48\u0e43\u0e0a\u0e49 \u0e22\u0e34\u0e48\u0e07 Precision \u0e15\u0e48\u0e33 (\u0e40\u0e0a\u0e48\u0e19 FP8/INT4) \u0e15\u0e31\u0e27\u0e40\u0e25\u0e02 TFLOPS/TOPS \u0e08\u0e30\u0e22\u0e34\u0e48\u0e07\u0e1e\u0e38\u0e48\u0e07\u0e2a\u0e39\u0e07 \u0e41\u0e15\u0e48\u0e04\u0e27\u0e32\u0e21\u0e41\u0e21\u0e48\u0e19\u0e22\u0e33\u0e02\u0e2d\u0e07 Model \u0e08\u0e30\u0e25\u0e14\u0e25\u0e07 \u0e14\u0e31\u0e07\u0e19\u0e31\u0e49\u0e19\u0e40\u0e27\u0e25\u0e32\u0e40\u0e25\u0e37\u0e2d\u0e01\u0e0b\u0e37\u0e49\u0e2d\u0e40\u0e04\u0e23\u0e37\u0e48\u0e2d\u0e07 \u0e2d\u0e22\u0e48\u0e32\u0e14\u0e39\u0e41\u0e04\u0e48\u0e40\u0e25\u0e02 Petaflop \u0e1a\u0e19\u0e01\u0e25\u0e48\u0e2d\u0e07 HW \u0e19\u0e31\u0e49\u0e19\u0e1e\u0e27\u0e01 DGX / GPU \u0e19\u0e31\u0e49\u0e19\u0e23\u0e2d\u0e07\u0e23\u0e31\u0e1a Precision \u0e41\u0e1a\u0e1a\u0e44\u0e2b\u0e19 \u0e41\u0e25\u0e30 VRAM \u0e40\u0e1e\u0e35\u0e22\u0e07\u0e1e\u0e2d\u0e15\u0e48\u0e2d\u0e02\u0e19\u0e32\u0e14 Model \u0e17\u0e35\u0e48\u0e40\u0e23\u0e32\u0e08\u0e30\u0e43\u0e0a\u0e49\u0e07\u0e32\u0e19\u0e2b\u0e23\u0e37\u0e2d\u0e44\u0e21\u0e48\u003C/p\u003E\u003C/blockquote\u003E\n\n\u003Ca rel=\u0022tag\u0022 class=\u0022hashtag u-tag u-category\u0022 href=\u0022https://naiwaen.debuggingsoft.com/tag/floating-point/\u0022\u003E#floatingPoint\u003C/a\u003E \u003Ca rel=\u0022tag\u0022 class=\u0022hashtag u-tag u-category\u0022 href=\u0022https://naiwaen.debuggingsoft.com/tag/ai/\u0022\u003E#AI\u003C/a\u003E \u003Ca rel=\u0022tag\u0022 class=\u0022hashtag u-tag u-category\u0022 href=\u0022https://naiwaen.debuggingsoft.com/tag/petaflop/\u0022\u003E#Petaflop\u003C/a\u003E \u003Ca rel=\u0022tag\u0022 class=\u0022hashtag u-tag u-category\u0022 href=\u0022https://naiwaen.debuggingsoft.com/tag/lc-3/\u0022\u003E#LC3\u003C/a\u003E"},"icon":{"type":"Image","url":"https://i0.wp.com/naiwaen.debuggingsoft.com/blog/wp-content/uploads/2026/08/PetaflopIsNotSameOnPCAndSuperComputer.webp?resize=150%2C150\u0026ssl=1","mediaType":"image/webp"},"image":{"type":"Image","url":"https://i0.wp.com/naiwaen.debuggingsoft.com/blog/wp-content/uploads/2026/08/PetaflopIsNotSameOnPCAndSuperComputer.webp?fit=1024%2C576\u0026ssl=1","mediaType":"image/webp"},"published":"2026-08-05T07:08:55Z","tag":[{"type":"Hashtag","href":"https://naiwaen.debuggingsoft.com/tag/floating-point/","name":"#floatingPoint"},{"type":"Hashtag","href":"https://naiwaen.debuggingsoft.com/tag/ai/","name":"#AI"},{"type":"Hashtag","href":"https://naiwaen.debuggingsoft.com/tag/petaflop/","name":"#Petaflop"},{"type":"Hashtag","href":"https://naiwaen.debuggingsoft.com/tag/lc-3/","name":"#LC3"}],"url":"https://naiwaen.debuggingsoft.com/2026/08/petaflop-not-same-on-pc-vs-supercomputer/","to":["https://www.w3.org/ns/activitystreams#Public"],"cc":["https://naiwaen.debuggingsoft.com/wp-json/activitypub/1.0/actors/1/followers"],"mediaType":"text/html","replies":{"id":"https://naiwaen.debuggingsoft.com/wp-json/activitypub/1.0/posts/49525/replies","type":"Collection","first":{"id":"https://naiwaen.debuggingsoft.com/wp-json/activitypub/1.0/posts/49525/replies?page=1","type":"CollectionPage","partOf":"https://naiwaen.debuggingsoft.com/wp-json/activitypub/1.0/posts/49525/replies","items":[]}},"likes":{"id":"https://naiwaen.debuggingsoft.com/wp-json/activitypub/1.0/posts/49525/likes","type":"Collection","totalItems":0},"shares":{"id":"https://naiwaen.debuggingsoft.com/wp-json/activitypub/1.0/posts/49525/shares","type":"Collection","totalItems":0},"interactionPolicy":{"canAnnounce":{"automaticApproval":"https://www.w3.org/ns/activitystreams#Public","always":"https://www.w3.org/ns/activitystreams#Public"},"canLike":{"automaticApproval":"https://www.w3.org/ns/activitystreams#Public","always":"https://www.w3.org/ns/activitystreams#Public"},"canQuote":{"automaticApproval":"https://www.w3.org/ns/activitystreams#Public","always":"https://www.w3.org/ns/activitystreams#Public"},"canReply":{"automaticApproval":"https://www.w3.org/ns/activitystreams#Public","always":"https://www.w3.org/ns/activitystreams#Public"}}}