2月6日起香港与内地全面康复“通关”。现在半年曩昔,康复“通关”是否为香港银行稳妥业带来新的昌盛?
5月31日,香港稳妥业监管局(以下简称“香港保监局”)发布2023年首季香港稳妥业暂时统计数字。数据显现,本年一季度,内地访客的新造事务保费水平达96.13亿港元;新造保单数目为34506份,去年同期为1029份,增幅达3253.4%。
“全面通关后的确有出售激增的状况,本年开的单许多是这几年的累积客户。”有署理人如是说道。
而在赴港投保再掀热潮的布景下,稳妥公司也在不断拓宽自己的署理人部队。5月,保诚宣告,正方案在港再延聘4000名理财参谋,以满意香港及内地客户对确保产品不断上升的需求。现在,保诚香港署理团队有近2万名理财参谋。
而除了稳妥产品,在银行存款方面,每日经济新闻记者从某国有大行香港分行工作人员处得悉,现在港币三个月定期存款利率为4.5%到4.8%,银行不同利率有必定差异。
针对全面通关后香港银行、稳妥业现状,一名国有大行香港分行的工作人员告知每日经济新闻记者:“买香港稳妥的一个特色便是要来香港。没通关时,你觉得他们便利来香港吗?所以,通关后内地人肯定会多许多。”
“全面通关后的确有出售激增的状况,本年开的单许多是这几年的累积客户。”一位香港保诚署理人此前对《每日经济新闻》记者表明。
“香港因疫情封关三年,这期间的确呈现了出售额的下滑。尽管现在比较疫情时期,的确多了许多,但假如比照现在和封关之前的出售状况,其实没有太大改变,所以,‘呈现小顶峰’的说法,其实是不恰当的。”另一名香港稳妥经纪人如是说道,由于疫情期间咱们不能过来,而开户、买稳妥需求自己亲自到港,除非你在内地有一个内地香港通用的银行户口,但这种一般对存款数额要求会高一点。通关今后更多的是康复到疫情之前的常态化水平,以及由于疫情三年不能通关带来的积压需求的一种开释。
香港保监局发布的香港稳妥业统计数据显现,1-3月,内地访客的新造事务保费水平达96.13亿港元,同比上升2686.4%,占个人事务总额20.5%;新造保单数目34506份,去年同期为1029份,增幅达3253.4%。与2019年一季度内地访客新造事务保费达128亿港元比较,现阶段内地保单已康复至2019年同期超七成水平。
内地居民赴港投保的热潮下,在港开立银行账户也成了一些客户的“刚需”。但针对客流回暖,不同组织的处理方法并不相同。
在前述香港稳妥经纪人看来,“基本上每一个到香港的人都能够开到香港的账户,在开户方面是没有妨碍的。”
但也有某国有大行香港分行工作人员表明该行会把每天开户人数约束一下。“咱们银行不会把时刻排得那么紧。就算知道那么多人预定,也会把每天开户人数约束一下,由于开户今后银行还有后续事宜需求处理。许多单子处理不过来,所以会优先处理核对起来比较便利的。不同银行的体系不同,开户快则20分钟,慢则一个半小时。”
一起,他弥补说,“由于重名的人许多,一旦与你重名的人有违法记载,银行核对起来会费事许多。针对这些人,会主张他们等一等。”
值得注意的是,除了内地赴港开户,也有不少香港居民开立内地银行账户。某国有大行香港分行工作人员表明:“咱们在搞反向见证开户。”
反向见证开户是指香港居民不用去内地,在香港就能开到内地的银行账户。该工作人员表明,通关之后,处理“反向见证开户”事务的客户也显着增多。
“可是它有约束,现在只能开设一个二类户口,且每年存取款总计只能到达20万到30万港币,且现在只针对香港永久身份。”该工作人员弥补说道。
赴港投保热潮下,哪些产品备受推重?多位业内人士均向记者说到了多元钱银储蓄方案以及重疾、寿险方案。
例如,本年有香港区域的稳妥公司现已晋级了重疾险确保。而除了重疾险产品,本年增加较快的还有理财特点的终身人寿稳妥。
“稳妥公司有一些保本的出资储蓄方案,比方八年以上的存款期,5%以上的利率。但会约好你不能提早取出来。”某国有大行香港分行工作人员介绍,“多钱银存款方案现在不保本,收益方面分为确保盈余和非确保分红两部分。非确保分红都是靠公司的以往分红记载,去做宣扬推行。”
“还有多钱银储蓄方案利率能到7%,但不确保分红。”某港险经纪人告知记者,“怎么或许确保,现在没有确保分红。”
“前史不代表未来,前史分红记载仅仅一个提议——是依据公司的名誉以及前史的分红完成率等目标归纳得到的一个等待。但并不是确保,这边没有‘确保’的东西。”
记者从另一位稳妥经纪人处得悉,与内地同类型产品不同,香港储蓄类产品规划为保底利率低、预期收益率高的形状招引顾客。
如一款热销的“XX多元化钱银方案”为例,账户价值包括确保(现金价值)和非确保(分红)两块,经过测算,可得第8个保单年度回本,投保30年的年化复利超越6%。
预期收益率水平较高之外,港险还遍及支撑多种钱银转化、盈利确定、两层钱银账户,以及更改受保人、保单分拆等功能。
据了解,多元钱银储蓄方案是一类储蓄分红险。而针对港险的非确保分红,某合资险企工作人员告知《每日经济新闻》记者,“其最大的危险点是它的高利息都来自于对分红的假定。实际上,香港稳妥的保底特别低,保底的年出资回报率大概在1%左右。每家稳妥公司不一样,但都很低。”
此外,该工作人员说到,此类香港稳妥的利益首要来源于终了盈利。“这是比较中心的一点,一般分红的这一部分当年度就会给你,可是这一部分的占比比较低,终了盈利占比会比较高。而终了盈利是根据假定,每年假定给你的盈利是不实际进入你的账户的。只要在触发赔付或换回的时分,稳妥公司才会关于多年来的分红假定,从头核算。主动权在他(稳妥公司)手里。”
但前述一国有大行香港分行工作人员也表明:“分红记载欠好的话,对手肯定会拿这个来说工作。所以稳妥公司也不敢把分红记载搞得太差。”
“有的稳妥公司会有挑选条款,方案书上会显现确保分红数额有多少,非确保分红数额有多少,你能够挑选把每年的一部分非确保分红确定下来,放到确保分红那儿去。”该人员弥补。
港险经纪人从监管方面解说,香港保监局要求一切的稳妥公司有必要发布每年的分红完成率。“这是对客户很大的确保。”
赴港投保的热潮之下,危险也不容忽视。
一名港险投保人向《每日经济新闻》记者论述了自己将保费支交给署理人后产生的糟心事儿。“这份稳妥是疫情前购买的,封关之前能够直接去香港交现金,交完了之后都会有回执。但问题出在封关之后,我将保费直接打给署理人,但迟迟没有收到回执。”
“不过好在最终妥善处理了。”当事人弥补说道,之后能够经过现金或许香港开户银行扣款的方法交保费。
针对这次弯曲的阅历,当事人也与记者共享了自己的经验教训:一是保单必定要依照稳妥公司规则的方法缴费;二是假如挑选代缴,保单回执必定要问署理人要,但最好不要代缴;三是如发现有稳妥公司催缴告知,必定要及时与稳妥公司联络;四是香港稳妥和内地稳妥有许多差异,购买之前必定要提早了解清楚投保理赔等状况。
近期,香港稳妥业监管局也面向内地出资者发布重要提示:直接向稳妥人付出保费,而不是向稳妥署理付出;不要参加香港人寿稳妥在内地的任何出售活动;不要与出售稳妥的无牌人士接洽。
而关于内地居民赴港购买稳妥的危险,监管部门还曾发文表明,赴港购买稳妥存在汇率危险和外汇方针危险。如以期交保费方法购买长时间寿险保单,也或许存在因外汇付出方针改变导致无法交纳续期保费的危险。
此外,赴港投保还存在理赔款汇回银行账户等问题。
我国政法大学世界经济法专业人士告知《每日经济新闻》记者,“内地居民到香港购买稳妥,或许会触及不同区域(内地和香港)法令适用的不同。例如,有些险种类别、承保规模、收效条件、争议处理等会有差异。”
此外,要注意稳妥合同有没有规则争议处理的处理方法。比方,产生争议是应挑选诉讼仍是裁定,关于统辖法院有没有规则,是否规则了争议处理的法令适用……
假如没有规则统辖法院,就遵从最密切联络准则,即原告所在地法院或被告所在地法院。适用法令方面,假如没有约好,那么或许法院会首要挑选适用所在地的法令来处理争议,假如两边当事人在申述之后达到共同,那么还能够有弥补的协议。
一起,在实践中,很多争议会采纳裁定的方法处理,比方协议去北京的裁定委员会,或许香港区域的裁定委员会,乃至是一些暂时组成的裁定委员会,都是有或许的。
关于哪些人员合适购买香港稳妥,前述某合资险企工作人员表达了自己的见地,“第一点,收入来自于海外;第二点,在海外没有很好的出资标的。”
“人在哪,钱在哪,危险在哪,就该买哪里的稳妥。”该人员弥补说道。
每日经济新闻
11月20日,一年中的第324天,离2022年完毕还有41天。这一天很往常,但这一天也产生了许多事。有些事,在前史的长河中,必定很快就会消失无痕;但有些事,将永久留在咱们心头,直到生命的最终一刻。彻底...
5月21日晚,在间隔云南漾濞县数百公里的贵阳市,不少市民在电视中收到了“云南漾濞于21:48正产生6.3级左右地震,地震横波还有40秒抵达,贵阳市观山湖区将或许有震感”的地震预警信息提示。“其时正在外...
加州新车经销商协会周三表明,特斯拉在该州的电动车市场比例已从一年前的55.5%下降至本年第一季度的43.9%。在特斯拉注册量下降15%之际,其他一切电动车品牌的销量在本年初增长了35%。
加州新车经销商协会在季度陈述中指出:
产品线老化,以及大众对马斯克的政治行为恶感,可能是导致特斯拉电动车市场比例下降的关键因素。
虽然美国顾客在该国总统特朗普的轿车关税于本月收效前赶紧购车,但特斯拉的出售仍在当季下滑。虽然特斯拉在美国出售的一切车型均在加州或德州出产,但公司依靠的部分进口零部件将在5月初面对更高的关税。
除了马斯克的政治言辞引发争议外,特斯拉还在第一季度面对与其最重要车型Model Y相关的制作中止。公司暂停了全球一切装配厂的出产,以调整产线,为其最热销车型进行从头规划。
在本年前三个月,特斯拉在加州售出42,322辆轿车,主要是Model Y SUV和Model 3轿车。这两款车型仍是加州最热销的电动车,紧随其后的是本田Prologue和现代Ioniq 5 SUV。
特斯拉的Cybertruck在该季度注册了2,282辆,排名第八,好于福特F-150 Lightning,该款车位列第十。
依据加州新车经销商协会的数据,加州是全美最大的电动车市场,上一年占注册量的31.1%。特斯拉曾总部设于硅谷,直到马斯克于2021年末将公司总部迁至德州奥斯汀。
本文来自华尔街见识,欢迎下载APP检查更多
据美国加州的新注册数据,特斯拉已不再占有该州新注册电动车的大多数比例,而加州占全美零排放轿车购买量的近三分之一。加州新车经销商协会周三表明,特斯拉在该州的电动车市场比例已从一年前的55.5%下降至本年...
近来,AI算力新秀CoreWeave在自己的推特上共享了一则音讯:该公司刚刚经过典当英伟达H100GPU的办法获得了23亿美元的融资,将用这笔钱来购买更多的H100GPU,以便在年底前再树立10个新数据中心。
一位供职于国内某互联网大厂的朋友在转发该音讯后评论道:“曾经只听说过地产公司经过典当房子来拿借款,然后用贷来的钱继续盖房子。这种典当GPU借钱,再拿借来的钱继续买GPU的做法却是榜首次看到。”
一般来说,相同的一件电子产品,年底时的价格会比年头低上一大截。所以简直不会有人购买电子产品来进行保值,金融机构也很少会乐意承受电子产品作为典当品。可是,这些经历在GPU面前失灵了。今时今天,好像整个商场都在争抢GPU,在eBay渠道上,英伟达H100GPU芯片的价格现已被炒到了每张4.5万美元,而在两三个月前,它的价格仍是在3.6万美元左右。
GPU终究是什么?为什么在AI年代,GPU会成为人们竞相争抢的硬通货?它的价值来自哪里?又能坚持多长的时刻?在GPU硬通货化的背面,又存在着什么更深的隐喻?且让咱们逐个说来。
GPU的由来
咱们知道,GPU是英文“图形处理器”(graphicprocessingunit)的缩写。从这个姓名就不难知道,GPU本来并不是用来履行AI相关的使命,而是用来处理图形的。
从上世纪80年代开端,跟着核算机辅佐运用(CAD)、地理信息体系(GIS)等技能的开展,用核算机处理图形的需求开端呈现添加。特别是电子游戏职业的异军突起,更是为核算机图形处理培养了巨大的用户集体。可是,作为核算机处理中心的元件CPU在处理图形时功率并不高,这就导致了专业处理图形使命的核算元件的呈现。
1983年,《核算机国际》(ComputerWorld)杂志上刊登的一篇介绍Tek-tronix的图形终端的文章里首先呈现了GPU一词。可是,此GPU非彼GPU,它的全称是graphicprocessorunit。这一类所谓的GPU尽管能够处理2D图画,但因为其时还缺少光影转化(trans-formandlighting,简称T&L)组件,因而它们还无法独立处理3D图形,有必要调配CPU运用。直到1990年代,图形处理元件加入了T&L组件,现在人们所了解的GPU才正式呈现。
关于终究谁才是现在意义上GPU的发明者,业界一向存在着争议。一种观念以为,GPU的发明权应该归于美国硅图公司(SiliconGraphics,简称SGI)。1996年,SGI推出了能够完结硬件T&L的图形处理器,现已具有了现在人们以为的GPU的首要功用。不过,因为它首要是被用在任天堂的主机上,所以许多人并不乐意供认它是真实的GPU。另一种观念则以为,榜首块GPU是由一家名为3Dlabs的英国公司推出的。1997年时,它在一块双芯片处理器中加入了带有T&L功用的引擎,并将这块处理器冠以了“几许处理器”(GeometryPro-cessorUnit,简称也是GPU)的姓名。可是,因为3Dlabs专心于CAD的狭小商场,影响并不大,因而将其以为是GPU发明者的人也不多。
比较于SGI和3Dlabs,一个认可度更高的GPU发明者是英伟达。在上世纪90年代的半导体商场上,英伟达其实算是一个后来者。其时,这个商场上的根本格式是AMD和英特尔两大巨子坚持,而它们抢夺的焦点是CPU。在那几年中,英特尔的飞跃系列CPU和AMD的Am386、Am486系列CPU可谓是你方唱罢我上台,战得不亦乐乎,其他企业只能坐看神仙打架。
1993年,就在整个商场都以为很难在巨子强占的商场中抢到时机时,供职于LSILogic的黄仁勋却挑选了辞去职务下海,创建了英伟达。不过,黄仁勋看好的并不是CPU,而是图形加快卡。在其时看来,这好像是一个非常冷门的事务。尽管跟着PC和游戏机的遍及,不少人知道到了图形处理的重要性,但其间的大部分人以为这个使命应该由CPU而不是专门的图形处理硬件来完结。
但黄仁勋并不这么以为,他坚持看好图形处理硬件的未来。在很大程度上,他的这个判别来自于对其时游戏职业的调查。1993年,一款名为《德军总部3D》(Wolfstein3D)的游戏横空出世,引发了商场对3D游戏的极大爱好。但事实上,《德军总部3D》并不是真3D,它仅仅用2D贴图假装出了3D效果。在黄仁勋看来,已然独自的CPU不足以支撑真3D游戏,那么要完结它们就只能选用辅佐的加快硬件。当然,尽管其时看好硬件加快商场潜力的人不多,但也不只黄仁勋一人。比方,英伟达前期最重要的竞赛者3dfx公司也很早押注了这个商场,并一度凭借着其首先推出的巫毒(Voodoo)加快卡雄霸全球商场。
应该说,黄仁勋命运的确不错,在创业初期就收到了日本游戏机公司世嘉的芯片研制订单,并得到了700万美元资金支撑。但这种命运并没有继续多久,因为他在3D图画技能上挑选的失误,没能兼容微软新拟定的DirectX规范,导致了初代产品NV1出师不利,销量惨白。
在经过一番调整后,英伟达总算步入了正轨。靠着世嘉公司付出的研制费用,英伟达开发出了Riva128。坦白讲,单论功用,Riva128并不如巫毒,但3dfx却犯了一个丧命的过错——坚持自己的开发东西GlideAPI,回绝运用DirectX。而英伟达则及时吸取教训,挑选了拥抱微软、拥抱DirectX。很显然,在微软控制PC体系的年代,这个战略是非常正确的,Riva128也因而而大卖。
1998年,英伟达与台积电达到协作,开端运用“无工厂”(Fabless)形式。之后,英伟达只担任芯片的规划和出售,出产则彻底交托给台积电来代工。经过这种形式,英伟达得以轻装上阵,将更多的精力投放到研制和商场研讨中,然后推出了一系列爆款产品。运用这些产品,英伟达总算在图形加快商场上站稳了脚跟。
不过,黄仁勋的野心当然不止于此。在他看来,图形加快硬件不应该仅仅CPU的帮手,应该有自己的独立人物。在这种理念的指导下,英伟达于1999年推出了它的GeForce256显卡。这款显卡不只将T&L功用整合到了其间,完结了独立于CPU的T&L处理,集成了立方环境原料贴图、极点混合、纹路紧缩和凹凸映射贴图、两层纹路四像素、256位烘托引擎等先进技能,还一同规划了可编程加快功用。在这些技能特质的加持之下,GeForce256对一些高端3D游戏的支撑才能要远胜于其时盛行的3D图形加快卡,问世后一炮而红,敏捷成为了广阔发烧友宠爱的游戏神器。英伟达也捉住时机,运用广告攻势,顺势将“具有集成T&L、三角形设置/裁剪和烘托引擎,能够每秒至少处理 1000万个多边形的单芯片处理器”界说为了GPU——假如严厉依照这个界说,那么英伟达就的确是GPU的发明者了。
英伟达敏捷成为了这个商场上的胜利者和引领者。2000年,它更是将最首要的竞赛对手3dfx直接收买,进一步安定了自己的商场霸主方位。所谓前史是由胜利者书写的,时至今天,当咱们在查找引擎上查找谁是GPU的发明者时,英伟达就成了默许的答案。
从游戏之友到AI神器
那么,GPU又是怎样从一款游戏神器变成AI神器的呢?在对这个问题进行阐明前,咱们需求先对GPU的结构进行一些简略的介绍。
从总体上看,无论是CPU仍是GPU,都包含运算器(ArithmeticandLogicUnit,简称ALU)、控制单元(ControlUnit,简称CL)、高速缓存器(Cache)和动态随机存取存储器(DRAM)。可是,这些成分在两者中的构成份额是不同的。在CPU傍边,控制单元和存储单元占的份额很大,而作为核算单位的ALU份额则很小;而在GPU傍边则正好相反。
这种结构上的差异决议了CPU和GPU功用上的差异。因为CPU在控制和存储的才能上比较强,因而就能进行比较复杂的核算,不过能够一同履行的线程很少。而GPU则相反,许多的核算单位让它能够一同履行多线程的使命,但每一个使命都比较简略。打个比方,CPU是一个通晓数学的博士,微积分、线性代数样样都会,但尽管如此,让他做一万道四则运算也很难;而GPU呢,则是一群只会四则运算的小学生,尽管他们不会微积分和线性代数,但人多力量大,假如一同开干,一万道四则运算分分钟就能搞定。
因为在图形处理的进程中会触及许多不同颜色单元的图形和颜色的改换,所以GPU的特质就让它先六合合适被作为图形处理的硬件运用。而当深度学习鼓起之后,人工智能专家们很快就发现,GPU也很合适用来练习神经和运用网络模型。因为在深度学习模型中,最首要的运算便是矩阵运算和卷积,而这些运算从根本上都能够分解为简略的加法和乘法。如此一来,GPU就找到了新的“工作”空间,开端被广泛地运用于人工智能,摇身一变,从游戏神器变成了AI神器。
关于英伟达这个GPU商场的王者,AI范畴的上述意向简直是为它送来了一块天上掉下的馅饼。它也顺势捉住了这个时机。2007年,英伟达提出了GPGPU,即“通用意图GPU”(GeneralPurposeGPU)架构,将本来专用于图形处理的GPU改造成了更合适AI运算的GPU。与此一同,英伟达还推出了GPGPU的核算一致架构(ComputeU-nifiedDeviceArchitecture,CUDA)渠道,答应程序员运用类 C言语编写GPU的并行核算代码,而且供给了许多的库函数和东西来协助优化 GPU核算。经过这些尽力,英伟达到功将GPU能处理的问题由图形扩展到了通用核算范畴,由此在商场上抢得了先机,首先从游戏范畴的硬件霸主转型成了AI范畴的“军火商”。
各大AI巨子为抢占大模型商场抢破头时,这位“军火商”却坐收渔人之利,成为了这场大战最大的赢家——不只赚得盆满钵满,让自己的市值突破了万亿美元大关,还凭借着其对GPU进行分配的权利,在某种程度上成为了左右AI大战终究走向的暗地之手。
从AI神器到硬通货
现在咱们回到本文最初的问题:为什么GPU并没有遵从一般半导体产品的价格下降规则,反而成为了一件硬通货?
在商场经济的条件下,能够让某种产品的价格坚持昂扬且坚硬的原因只需一个,那便是需求超过了供给。要了解GPU为何能够成为硬通货,就有必要对其供求情况有所了解。
1、GPU的需求情况
什么人在购买GPU呢?关于这个问题,马斯克曾给出过一个答复:“在现在这个时刻点,好像一切人和他们的狗都在处处找GPU。”马斯克的这个答复当然是带有戏弄的,可是整个AI圈的确都在为GPU而张狂。
最近在交际新闻网站Raddit上热传的一篇文章曾对几个大公司的GPU需求量做过一个核算。依据这篇文章,OpenAI在练习GPT-4时曾运用了10000到25000张英伟达A100GPU;脸书在练习AI时运用了大约21000张A100;特斯拉运用了约7000张A100;Midjourney的开发者StabilityAI大约运用了5000张A100。此外,阿联酋阿布扎比技能创新研讨所开发的Falcon-40B用了384张A100进行练习;AI草创公司Inflection则正在运用3500张H100GPU来练习功用足以对抗GPT-3.5的大模型。而依据马斯克的爆料,OpenAI正在练习的GPT-5所运用的H100GPU或许达到了3万到5万张。除此之外,还有很多草创企业也都需求GPU,需求量从几百张到几千张不等。一切这些需求加总在一同,就构成了非常巨大的数字。
这儿需求阐明的是,在GPU商场上,不同类型的GPU的需求不同非常大。现在,商场上最受欢迎的GPU便是英伟达的H100。依据英伟达方面的介绍,这款专门为人工智能规划的GPU芯片选用了新一代的Hopper架构,具有800亿个晶体管,无论是在深度学习模型的练习仍是推理方面,都具有非常强壮的才能。在各种第三方的测验傍边,H100也获得了非常好的成果。例如,在近期举办的一次MLPerfAI测验中,英伟达H100集群一举在悉数八个项目中都获得了榜首,仅用11分钟就完结了一遍GPT-3的练习,用8秒就完结了一遍BERT模型的练习。
得益于H100的优异功用,所以简直一切AI企业都对其凶相毕露。依据网上热传的一个估量:OpenAI或许需求5万张H100;脸书或许需求2.5万张;Inflection需求2.2万张;微软的Azure云、谷歌云、亚马逊的AWS,以及Oracle这四大云服务商或许各需求3万张;Lambda、CoreWeave以及其他私有云或许一共需求10万张;Anthropic、Helsing、Mistral、Character等企业或许各需求1万张——将上面这些需求加总在一同,H100的总需求量就超过了43万张。需求指出的是,上述估量数字还没有包含我国的大型科技企业,以及包含JP摩根在内的很多金融企业的需求。假如将这些企业的需求量考虑在内,H100的需求量将更是惊人。
或许有人会问,相同是GPU,为什么H100会要比其他类型的GPU,比方A100更受欢迎呢?这其实既是一个技能问题,也是一个经济问题。总体上讲,尽管同为GPU,可是不同类型的GPU之间的首要功用是不同的。大致上讲,在AI范畴,GPU的用处首要有两种:一是推理(inference),即用练习好的模型生成咱们需求的成果和内容;二是练习(training),即运用样本数据来练习AI模型。因为使命不同,所以在规划进程中有必要组织不同的架构来对它们进行支撑。一般来说,推理进程一般需求高效的核算才能和低推迟的响应速度,因而推理芯片的规划重视高效的核算单元和能耗控制;而练习进程则需求更高的核算才能和存储才能,因而练习芯片的规划重视高度并行化和大规模存储。
得益于更为优异的架构规划,H100无论是在推理才能仍是练习才能上都要比A100更优。测验成果表明,它的16位推理速度大约是A100的3.5倍,16位练习速度则大约是A100的2.3倍。而从本钱上看,H100大约是A100的1.5到2倍。由此可见,尽管H100的价格要比A100更贵,但从性价比看,H100则具有更大的优势。
这儿特别需求指出的是,当Chat-GPT的爆火之后,大批企业都投入了大模型的开发。关于这些企业而言,能够更早地开发出品质优异的大模型就能为自己在竞赛中获得更为有利的方位,这就激发了它们对能够以更快速度练习模型的东西的巴望。
2、GPU的供给情况
已然现在价格现已被炒上了天,那么供给商就应该捉住这个时机卖卖卖吧。但有意思的是,各大GPU供给商迟迟不添加供给,逼得一些AI企业甚至不得不到二手商场去收买旧的GPU。非不肯也,实不能也。
关于包含GPU在内的半导体产品而言,整个供给链能够分为三段:上游首要是指EDA、IP授权以及GPU芯片规划,中游首要是指GPU的制造和封装测验,下流首要是集成商和终端出售。其间,现在GPU卡口最严峻的部分就出在供给链的中游。
众所周知,芯片的出产关于工艺的要求非常高,因而契合出产条件的制造商很少。以英伟达的H100为例,正如咱们前面说到的,在英伟达选用了“无工厂”形式之后,其制造就悉数托付给了台积电。可是,即使是对台积电而言,也只需N5、N5P、N4和N4P四个制程节点(注:制程节点指的是电路铸造的制程工艺节点。一般以纳米来衡量,例如N5指的便是5纳米制程节点。制程节点越小,在一块晶圆上能够制造的集成电路就越多。)能够用来进行H100的制造。而因为台积电的制造工艺杰出,所以苹果、高通等公司都在托付其进行代工,因而英伟达就不得不需求和这些公司一同共用以上制程节点。除此之外,在封装环节,台积电也面临着产能的约束。这些要素加在一同,就导致了H100在供给链的中游面临着非常紧的瓶颈。
与此一同,还需求注意的一点是,GPU的组件供给也在必定程度上约束着它的供给。仍以H100为例,其运用的要害组件高带宽存储器(HighBandwidthMemory,简称HBM)就面临着很严峻的供给约束。现在,英伟达在H100上运用的HBM简直都来自于韩国企业SK海力士半导体公司(SKHynix)。可是,SK海力士出产HBM的才能是有限的,这就对H100的产值构成了直接的约束。有风闻说英伟达或许从三星和美光收购一部分HBM,但这两家企业的产能依然是有限的,因而扩展收购规模终究能够在多大程度上缓解HBM的紧缺依然是一个问题。
归纳以上剖析,咱们能够看到,尽管面临着GPU需求的暴升,但因为供给链的约束,GPU的供给量很难在短期内呈现严重提高。现在看来,由生成式AI所带动的算力需求添加还会继续较长的一段时刻,因而至少在这段时刻内,GPU的求过于供还会继续存在。在需求规律的效果之下,这就导致了GPU这种半导体产品呈现了非常失常的价格继续上升。因而,在融资傍边,它也就得以扮演起了典当品的人物。
从财富之源到权利之杖
当人们津津有味于GPU居然能够成为硬通货,在金融商场上作为典当品的时分,很或许疏忽了别的一层更深的隐喻,即跟着GPU在AI年代效果的日益杰出,它好像正在成为AI范畴的权利之源。
7月25日,微软发布了它2023财年第四季度的财报。得益于和OpenAI的协作,微软的云事务在本财季呈现了大幅的添加,带动了公司营收情况的明显改进。与去年比较,其营收同比添加了8%,净利润的同比涨幅更是达到了20%。在展现自己所获得的骄人成果的一同,微软也在财报中提示了一些潜在的危险,其间之一便是GPU危险。微软指出,GPU现已成为了支撑其云事务敏捷添加的要害原材料,假如GPU的供给不能确保,则其服务质量或许会遭到很大影响。
为了缓解对GPU的渴求,微软可谓是竭尽全力。一方面,它直接向英伟达方面示好,要求收购更多的GPU。另一方面,它也想了一些迂回的办法。比方,在不久之前,它就和CoreWeave——也便是本文最初说到的那家典当H100来借钱买H100的算力供给商达到了协议,约好将在未来几年内继续向后者供给金额数十亿的出资,一同建造云核算的基础设施。其原因在于CoreWeave和英伟达联系甚密,在不久前的B轮融资中,就得到了英伟达的出资。凭借着这层联系,英伟达方面承诺会优先对CoreWeave供给GPU的供给。因而,关于微软来说,出资CoreWeave便是和英伟达套了近乎,然后有时机让它得到更多的H100和A100的运用权。看看微软现在这番良苦的用心,再联想英伟达创业之初为求生存不得不屈服于微软创建的规范,真不由让人感叹三十年河东,三十年河西。
当然,咱们还能够举出更多的GPU供给商控制AI之战的事例。一个典型的比如是咱们前面起到过的Inflection。这家由DeepMind联合创始人穆斯塔法·苏莱曼(MustafaSuleyman)兴办并担任CEO的公司最近可谓风头正劲。和其他大模型公司不同,Inflection并不想发明无所不能的通用人工智能(AGI),而是将注意力会集在了个人智能(PI)范畴。它的首要产品——名为Pi的谈天机器人功用也很单一,现在只需谈天。很显然,在现在树立的AI模型中,这款产品并不拔尖。可是,便是这样一家看似平平无奇的公司,其估值却达到了40亿美元。除了它具有的名贵智力资源外,一个重要的原因便是GPU。不久前,Inflection揭露宣告,它将打造一个具有2.2万块H100芯片的超级核算集群,以支撑新一代AI大模型的练习和布置。这个集群的集成数量现已彻底逾越了脸书于5月宣告的方案。
Inflection是怎样做到的呢?只需咱们看一下它的出资人,答案就当即揭晓了。是的,在它的出资人中,就有英伟达。别的值得一提的是,Inflection在打造这个集群的进程中,还有一个重要的协作者——CoreWeave。而正如咱们现已看到的,它也是英伟达的利益共同体。由此可知,Inflection得以爆火的背面,英伟达以及它手中的GPU应该起了要害的效果。
记住本年3月,各大生成式AI公司激战正酣的时分,曾有一位记者来采访我,她问:“依您看来,这场AI大战的最终赢家会是谁?微软,谷歌,仍是OpenAI?”我其时的答复是:“我不知道它们傍边谁会赢,但最终的赢家里必定有英伟达!”现在看来,这个答复是彻底正确的。不过,假如现在她再问我这个问题,我会在答案上再加一句:或许,它还能用GPU投票,决议谁会是赢家。
陈永伟/文近来,AI算力新秀CoreWeave在自己的推特上共享了一则音讯:该公司刚刚经过典当英伟达H100GPU的办法获得了23亿美元的融资,将用这笔钱来购买更多的H100GPU,以便在年底前再树立...
精品科普:粗壮的反义词是什么?吃瓜网友必知冷知识在日常生活中,我们常常会用“粗壮”来形容人或物体的形态,但你是否思考过它的反义词呢?今天,我们就来揭秘这个有趣的冷知识,带你一起探索语言的奥妙!1.粗壮...
据《华盛顿邮报》近来发表,美国国防部长海格塞斯现已签署《暂时国防战略辅导定见》隐秘内部文件,把我国称作所谓“仅有步步紧逼的要挟”。特朗普第2次入主白宫以来,全力镇压乌克兰承受丢失疆域的休战,并力求从欧...