吴财满脸好奇,追问道:“芯片的问题都解决了,难道还有其他难题?”
叶老微微叹了口气,神色中带着几分忧虑:“还不是算力的问题嘛!
就说咱们的GpU制造,和星耀相比,差距还很大。
鹰尾巴的幻光100芯片,拥有800亿晶体管,80Gb显存,带宽高达3tb\/s,专为超大数据、超复杂的计算任务设计,像AI训练、大规模计算、气候模拟这些,它都能轻松应对。
反观咱们国产的GpU,明月的辉光9系列,性能大概只和鹰尾巴幻光1050相当,橘子的耀光910b算力勉强能和鹰尾巴的幻影100较量一下,可跟幻光100比起来,尤其是在显存和带宽上,差距就太明显了,耀光910b的带宽只有56Gb\/s 。
不仅如此,芯片之间的互联技术上,幻光100支持高效的多GpU协作,能让多个芯片同时工作,效率能提升好几倍,国产GpU在这方面技术差得远,带宽低,芯片间协作能力不行,想做高效并行计算,难如登天。”
吴财若有所思地点点头,又问道:“你说的是AI领域吗?”
叶老肯定地点点头:“没错,就是AI。
虽说在工业生产和应用领域,咱们国家的AI技术比山鹰国领先,像国内很多工厂引入AI实现生产流程自动化,提升了生产效率和产品质量,港口利用AI优化货物装卸和运输调度,提高了运营效率。
但在生成式AI方面,因为算力不足,和山鹰国还是有不小的差距。
像训练山鹰目前最强那种超大规模的语言模型,需要大量的GpU算力支持,才能完成海量数据的处理和复杂模型的训练,从而实现自然语言处理、文本生成、对话交互等强大功能。
咱们由于算力受限,在训练同等规模和复杂度的模型时,就会面临效率低、成本高,甚至难以实现的问题,这就导致生成式AI的发展受到制约。”
吴财皱眉问道:“既然我们的算力受限,为什么不多弄点GpU堆呢?”
叶老无奈地摇了摇头,说道:“吴财啊,你这话说起来简单,可实际操作起来,那成本高得超乎想象。
就说要赶超山鹰目前最强大语言模型cGt吧,咱们先从算力需求来讲。”
“cGt训练所使用的算力是极其庞大的。据估算,它训练一次的算力消耗,大概需要数百万个鹰尾巴的幻影100运行数周时间。咱们就算找到性能相当的国产GpU来替代,成本也低不了。
以鹰尾巴的幻影100为例,一颗市场价格大概在1万刀左右,这还不算配套的服务器、散热设备等周边硬件成本。”
“假设我们要搭建一个算力集群来追赶cGt的训练水平,保守估计需要500万个GpU。
光GpU采购成本就得500亿刀,这还只是硬件的基础投入。”
“除了硬件,还有运行成本。这些GpU需要24小时不间断运行,电力消耗就是天文数字。
按照一个GpU一天消耗3度电来算,500万个GpU一天就需要1500万度电。以工业用电每度1元来计算,一天的电费就是1500万元,一年下来电费就得54.75亿元。
而且,数据中心的维护、管理,专业技术人员的薪酬等,每年又是一笔巨额开支,至少几十亿。”
“另外,训练过程中,为了保证数据的准确性和多样性,还需要购买和处理海量的数据,数据的采集、清洗、标注等环节,又得花费大量资金,至少数十亿甚至上百亿美元。
这样算下来,从硬件采购到运行维护,再到数据处理等一系列环节,想要达到赶超cGt的算力水平,前期投入至少得1000亿刀以上,每年的持续运营成本也得几百亿刀。”
吴财听着叶老的一番计算,不禁暗自吃惊,嘴巴微张,心中想着:“我听说过堆算力费钱,但不知道费这么多钱,这简直是个天文数字!
难怪国内没什么人搞这个呢,哪怕就是自己来投,也只能混个前期啊。”
但很快吴财反应过来了,不对啊,这玩意儿就是可以合理烧钱啊。
而且烧的足够快!
吴财忍不住问道:“叶老,你觉得我投资组建一个生成式大语言模型的公司怎么样?”
叶老闻言一愣随即摇摇头说:“吴财啊,我知道你现在有很多钱,但听我一句劝,目前这块领域,不是靠个人老板脑子一热就能搞出来的。
各领域专家都表示,这需要海量的成本投入。
哪怕是你,也是吃不消的,就算把你全部身家砸下去,训练出来的模型估计也就勉强可以追上cGt目前的智能程度。
这还是在它原地踏步的情况下。
这种情况下,你训练出来这个模型,也产生不了多少利益。”
吴财整个人都兴奋起来了,自己貌似找到了一个能纯烧钱的bUG啊。
打定主意,等这次拿到封神重宝后,自己说什么都要回来投资生成式AI。
山鹰,威廉的古堡。
在这个宁静而温馨的夜晚,威廉正悠然自得地坐在餐桌前,尽情享受着浪漫的烛光晚餐。
柔和的烛光轻轻摇曳,将整个房间映照得温暖而惬意。桌上摆满了精致的美食和香醇的美酒,一切都是那么美好。
然而,就在这美妙的时刻,一阵突如其来的剧烈咳嗽打破了平静。
威廉毫无防备地弯下腰,身体不由自主地颤抖着,仿佛要把五脏六腑都咳出来一般。
他试图站起身来,想要说些什么,但喉咙却像被一只无形的大手紧紧扼住,只能发出一连串急促而沙哑的咳嗽声。
随着咳嗽愈发剧烈,威廉再也无法忍受,他猛地伸出手臂一挥,只听“哗啦”一声,烛台和餐具纷纷被扫落在地,瓷器与地面碰撞出清脆的响声。
与此同时,一旁原本安静趴在角落里的黑猫被这突如其来的变故吓得毛发直立,它惊恐地跳了起来,并发出尖锐刺耳的尖叫声。
更糟糕的是,倒地的烛火迅速蔓延开来,瞬间点燃了柔软的地毯。
火势越烧越旺,不一会儿便形成了一片熊熊火海,滚滚浓烟升腾而起。
但令人惊讶的是,身处如此险境中的威廉,脸上竟然没有露出丝毫的慌张的神色。