What is TDP in GPU? (Explained)
A short for Thermal Design Power, TDP in GPU denotes a number in watts that signifies the maximum amount of heat the graphics card generates under heavy workload.
Therefore, a TDP also indicates the amount of heat a cooling system must dissipate from the GPU. In reality, TDP is not a measure of electrical power but refers to thermal aspects only.
KEY TAKEAWAYS
- TDP in the Graphics Processing Unit refers to two specific things namely the amount of heat generated by the card and the amount of heat the cooling system should dissipate to keep the card cool.
- The TDP rating is usually defined by the Original Equipment Manufacturers and the Add-in-Board partners who design and manufacture the cooling solution for the card depending on this value. It may not be the same across all equivalent products.
- When TDP value is reached, the graphics card will be shut off automatically but such a situation rarely happens under normal conditions.
- The amount of TDP to have in a graphics card will depend on the type of job you do where higher TDP is better for doing more graphics intensive tasks.
Understanding TDP in GPU

Advertisements
- The CPUs
- The GPUs
- The PCBs
- The cooling system and more.
However, along with that there has also been a slow but gradual increase in the energy requirements of these components which is necessary to uphold their efficiency improvements.
Typically, the graphics cards in the computers seem to consume the major part of the power supply to your PC, single-handedly.
The graphics cards are considered to be the biggest culprits being the most power-hungry component of the entire system, especially those that are used inside the gaming machines.
It is for this particular reason most savvy buyers and PC enthusiasts check the power consumption value of the graphics cards while shopping for a Power Supply Unit or PSU.
It is very important that you know the power consumption of the different components of a computer because that will help you to buy a PSU that will be capable enough to supply adequate power to all of them.
However, when it comes to determining the power consumption of the graphics cards, the different acronyms such as TDP, TGP and others may confuse you a lot.
Moreover, the different brands may follow different concepts and in the interpretation of TDP in the graphics cards.
All these confusing trends going on in the graphics cards space does not help a general consumer in any way and instead make it all the more confusing for any average user to have a clear understanding.
TDP, which gives a fair idea about the power consumption ratings of the graphics cards, may not offer you the right answer straight away when you look for it.
- Thermal Design Power
- Thermal Design Parameter and
- Thermal Design Point.
All these three however mean the same thing and the most common one to be used is the Thermal Design Power.
As said earlier, this is actually the amount of the maximum heat generated by the graphics cards when these are put under heavy workload.
The harder it works, the more heat is generated by it and the system gets hotter overall.
You may have experienced the back of your smartphone becoming hot when you play a game for, say, about 30 minutes.
This is because the graphics cards, along with the other components inside the mobile phone, consume more electrical power, which, in turn, is changed into heat energy.
This is the same thing that happens to a desktop or a laptop computer or any other mobile device.
That is why most PC enthusiasts consider TDP as the upper limit of power that a computer component can use.
However, the manufacturers of the graphics cards, such as NVIDIA, say that TDP refers to both the maximum power that can be drawn by a subsystem while running a real-world application as well as the highest amount of heat generated by it in the process.
On the other hand, the manufacturers also say that it is a useful value for them to design the cooling system because they consider it to be the capacity of the cooling system to dissipate the heat generated in real-world conditions.
All of these create a lot of confusion among the users.
- The amount of heat generated by the graphics cards, or any other component of the computer for that matter and
- The amount of heat that a cooling system must remove to keep the component properly functional.
Here, the confusion is created by the unit in which the TDP is usually expressed – watts.
This is the unit of electrical power and also can be used to refer to the amount of heat.
However, the vagueness of it is due to the fact that power consumption is normally measured in electrical watts but heat produced, on the other hand, is typically measured in thermal watts.
However, the TDP in the graphics cards, or even a CPU, is usually considered to be a representation for power draw.
This is because more often than not the two turn out to be pretty close to one another or even equivalent.
Still, this may not be the case, which is why you should not use this value solely to determine the size of the power supply of the computer.
Usually, the graphics cards come with a TDP rating but they also come with cooling solutions built in them.
However, if you intend to use your computer for graphics intensive tasks and heavy overclocking, you may need to use additional cooling solutions for the Graphics Processing Unit which you will get in any aftermarket.
In such situations, the TDP rating of the graphics card will be of great help to know what type of cooling system will be necessary for it.
The TDP rating of a GPU is similar to the TDP rating of the CPUs in the way that both are defined by the OEMs or the Original Equipment Manufacturers and indicates the thermal parameter of the two.
Underclocking a GPU

At this point you may think that underclocking the graphics card will lower the effective TDP. Well, this is not true and there are different reasons for it.
One, the TDP itself is the maximum heat limit which, if reached by the graphics card, will shut it off automatically.
Two, the TDP is hardly ever reached under normal conditions and therefore, you should not be concerned about it and underclock the graphics card.
It is true that underclocking the graphics card will typically make it use less power and therefore, less heat.
However, this will not change the TDP in any way because it is just the maximum temperature.
And most, importantly, the graphics card will underclock itself when it is not in use.
Therefore, is there any other good reason that you may have to underclock the graphics card?
Checking TDP in Laptops
Usually, the power limit of the graphics cards in a laptop varies from one device to another which is why the same type of graphics cards may perform differently in two different laptops.
- Opening the NVIDIA control panel
- Clicking on ‘Help’ and
- Clicking on ‘System Information.’
The value will be displayed here.
However, the actual value may change depending on the dynamic boost and therefore it is always better to check the power limit of the graphics card yourself with the use of a third-party app.
- Download and run the app on your laptop
- Open a game with high settings to give high load to the graphics card and
- Look for GPU and GPU Power.
The value will be displayed there.
It is also a better way to read reviews because the vendors often do not specify these power limits clearly.
Is Higher TDP Better?
It usually depends on the type of job you want to do on your computer.
If it is graphics intensive, a higher TDP will ensure faster and better output.
However, just as it is in the case of a CPU, if a graphics card is rated with a high TDP, it will generate a lot of heat.
This is because it will consume a lot of electrical energy in the first place which produces heat as its byproduct.
This means that you can calculate how much power is required by the graphics card by looking at the amount of heat dissipated by it.
That is why a graphics card with a high TDP is highly likely to consume a lot of energy.
By and large, the actual power draw of the graphics card is normally higher than the rated TDP.
In fact, there are a few specific sources that say that the peak power rating is normally 1.5 times of the TDP rating.
This means that if the TDP of the chip is rated 65 watts, it can consume as much as 90 watts of electrical power, so to speak.
Therefore, if your computing tasks are limited to the basics, there is typically no need to have a graphics card with a higher TDP rating installed in your computer.
Does TDP Matter in GPU?
Ideally, when it comes to measuring the power consumption of the graphics card it is not only the TDP that matters but the TGP or Total Graphics Power and TBP or Total Board Power values are also important.
Though all these three ratings are important in some way or the other, TDP is however more important because it is applicable to all diverse types of scenarios.
The TDP value is also pretty reliable and consistent to use across different scenarios and across graphics cards of different generations.
This further helps in comparing the theoretical power necessities of the GPUs. It makes things much easier or the users.
The TGP and TBP, on the other hand, are the metrics that indicate the power consumption of a specific PCB design of a graphics card and the maximum power consumption of a specific model of a graphics card respectively.
Therefore, the TGP and TBP are a bit limited in telling the actual power consumption of the graphics cards in comparison to the TDP.
Moreover, the TDP of the graphics cards is also very useful over and above the theoretical comparisons of different generations of graphics cards.
As said earlier, the TDP value of the graphics cards helps the manufacturers to design an appropriate cooling solution to be accompanied with the cards.
The fact that the TDP of the graphics cards is pretty consistent is because the die of the cards are manufactured either by NVIDIA or AMD and they follow a reasonably standard measure to calculate the amount of heat produced by the graphics cards.
This TDP rating is given by the GPU manufacturers to the Add-in-Board partners who are responsible for the designing and manufacturing of the cooling solution of the graphics cards according to this value.
Therefore, the TDP of a graphics card is quite important, especially for the manufacturers and in industrial and professional applications as well.
It allows them to set the limits of power supply and system cooling according to this particular value.
However, the TDP is not as important or interesting to the consumers as it is to the manufacturers.
- To make a direct comparison of the power consumption between two different graphics cards and
- To choose the right type of power supply for the computer system.
The TGP and TBP of the graphics card are not as important as the TDP of it, especially while making a purchase decision because the TDP is usually lower than them.
This is because it does not consider any other component of the PCB apart from the cooling solution of the graphics card.
Therefore, be wary of the TDP of the graphics card just as you should be for the CPU of your computer.
However, if you want to buy a laptop as such you need not worry about the TDP of the graphics card because it is not very important.
It will be already adequately mounted by built-in cooling solutions by the manufacturers.
Conclusion
TDP is the common rating for graphics cards, as it is for the CPUs, which helps both the manufacturers as well as the consumers a lot.
If you did not know how, now you surely know it, thanks to this article.
About Dominic Cooper
Dominic Cooper, a TTU graduate is a computer hardware expert. His only passion is to find out the nitty gritty of all computers since childhood. He has over 12 years of experience in writing, computer testing, and research. He is not very fond of social media. Follow Him at Linkedin
Graphics Card TGP, TBP and TDP – What is the Difference?
With the rise of high-performance PC components, there has been a slow but constant rise in the power requirements of these components as well. Even though with each generation of a new product there are certain efficiency improvements, however, those improvements are not enough to counter the increased power requirements of the products due to a simultaneous increase in the performance of the product as well. This means that as progress is made in the various categories of computer components, there is a certain increase in the power consumption of those products as well.
The PCB of the RTX 3070
Graphics cards are certainly the biggest culprits when it comes to the power consumption of your PC. They are single-handedly the most power-hungry components inside a gaming machine and therefore contribute the most to the power consumption. This is the reason that a lot of PC enthusiasts and savvy buyers nowadays check the power consumption of their graphics cards when shopping for a power supply. As you can find out in our advanced guide for buying a PSU, knowing how much power the different components of the PC draw is an important part of the process. The only problem with the process of finding out the power consumption of your graphics card is the number of confusing acronyms and brandings being associated with the power consumption concept.
Power Consumption Ratings
Whenever you search for the power consumption rating for a graphics card, there is a good chance that you might not get your answer straight away. There is a bit of a confusing trend going on in this space that is not really helpful for the general consumer. Most companies list 3 different types of power consumption ratings on their product pages or on their promotional material.
TDP in graphics cards is actually a bit different than the TDP rating of processors. While in CPUs, the TDP acronym stands for Thermal Design Power, in graphics cards it actually means the Thermal Design Parameter. This is actually the closest measure of the actual GPU Power that we currently have without measuring the power draw of the GPU manually.
The TDP of the graphics cards is similar to the TDP of the processors in one key way. Just like in the processors, the TDP of the graphics card is defined by the manufacturer and it refers to the thermal parameter that the GPU generates. This refers to the heat that it gives off in the form of watts and is therefore defined with a parameter such as watts.
This is certainly a vague way to measure and advertise the power consumption rating of a GPU due to the fact that the power draw is measured in electrical watts while the heat output of the GPU is measured in thermal watts. Now, both are essentially the same thing, but there is a difference between the power drawn by the GPU and the heat produced by it, and that difference is actually converted into the work that the GPU is actively performing.
Advertised TDP numbers of Turing GPUs – Image: Nvidia
The TDP can also be understood as the maximum amount of heat generated by the graphics card that its cooling system has to dissipate under normal conditions. It certainly does not reflect the total power consumption of a graphics card directly.
This is by far the most commonly advertised rating by manufacturers and retailers. However, two more specific rating systems are also used in the GPU space.
One of the more interesting brandings has to be TGP which stands for Total Graphics Power. This is understood as the power consumption of the GPU and its entire PCB but without its cooling and lighting system. This refers to the power that is required by the GPU to function, however extra elements such as the cooling fans and other elements of the cooling system, or optional elements such as lighting are not included in the total TGP rating of the card.
TGP is a more specific value due to the fact that it counts the elements that are directly on the board itself. This is important because of the difference in manufacturing processes that exist between different Add-in-Board partners. While most of the board partners use a reference PCB, they design their own cooling and lighting systems that accompany the cards to the market. Since every manufacturer’s cooling and lighting system is different, the use of one value to describe the power consumption of all cards in the market might be a bit inaccurate. Therefore, values such as TGP exist to make it a bit more specific.
Since TGP does not take into account all the cooling and lighting elements in the card, the only components left are on the PCB itself. As most AIB partners share the same reference PCB, they also share the exact TGP while having slightly different TBP ratings. This is where the difference between the two becomes clear.
TGP is higher than TDP – Image: Geeks3D, Nvidia
TGP can also be defined as the maximum amount of graphics board power that the system power supply should be able to provide to the graphics card. This is a point of interest for normal consumers as well because the purchase decision of a power supply might hinge on this value. Granted, the differences between the TDP and the TGP ratings are not astronomical, however, these differences can certainly be a point of consideration for buyers who already have a PSU that is on the very edge of what the graphics card demands in terms of power.
This acronym stands for Total Board Power and it is only slightly different than TGP. This parameter is mostly used by AMD for their Radeon graphics cards. Total Board Power differs from TGP in one very basic aspect which is that it affects the total as well as the peak consumption of the card. The TBP of a card is a slightly higher number than the TGP of the card and therefore gives a better idea of the peak consumption that the card might reach under load.
This is mainly because the TBP number also includes the heat given off by the cooling system of the card, the fans, and the lighting system such as LEDs on the shroud as well. Including all these factors into the total consumption number of the card makes sense as it provides an idea of the peak consumption that the card can potentially reach under certain conditions. Moreover, the power consumption of the GDDR6 memory (or other memory types that the card might use such as G6X, HBM, etc), voltage controllers, VRM components, coils, capacitors, and even the small LEDs on the card are accounted for in this rating.
Power Draw can increase beyond advertised TBP with GPU Boost – Image: Techspot
We can summarize the differences between the three ratings in this way. If you want to know how much power a graphics card will consume as a whole, then you should look at its TBP number. If you want to know the power consumption of the GPU die only, then the concerned number is TDP, and if you want to know the power consumption of the PCB with the GPU but without any additional components such as fans or LEDs then you should consider the TGP number.
Which One to Use?
There isn’t a single specific rating that is entirely applicable to all the different scenarios where you might need to know the power consumption of a graphics card. All three commonly known ratings are useful in some way or another. It really depends on what you are looking for when talking about the power consumption of a card as that would dictate what rating is most appropriate.
In scenarios where you are comparing the theoretical power requirements of a lot of different GPUs across different generations, the TDP is a fairly consistent and reliable metric to use. For example, if you want to compare the power consumption of a GTX 1080Ti with the RTX 3090 and you want to know which one requires more power, the TDP number is a fairly easy and consistent way to compare the power needs of the two GPUs.
If you are concerned with the power consumption of one particular PCB design of one card, then the TGP is a more appropriate rating to consider. Say you want to find out the power consumption of the reference PCB of the RTX 3080. In this situation, the TGP number will be the closest to the actual power consumption you might see in real life with that PCB. This can be useful if you are separately using the PCB under a custom water-block (such as the ones we recommend) and you want an idea of its power consumption without the factory cooling solution.
Finally, if you want an idea of the peak power consumption of a particular graphics card model, then TBP is an appropriate rating to consider. TBP includes every little component of a graphics card and therefore gives the highest number out of all three, but it is going to be fairly close to what you might see in real-life under stock conditions.
Where Are They Useful?
So, are these numbers even useful outside of theoretical comparisons? Well, the answer to that is not quite as straightforward as it may seem at first. There are specific use-cases for each one of these ratings, but those might not coincide with what the average user might be looking for.
The most important use-case for these ratings is the manufacturing of the cooling solution for the graphics cards. TDP is essential for the design and manufacturing processes of the coolers that accompany the GPUs in the graphics cards. Since the GPU die is made by either Nvidia or AMD, they have to come up with a fairly standard measure of the amount of heat generated by the GPU in order to give their partners an idea of what kind of cooler is necessary for their GPUs. The GPU manufacturer has to give the TDP ratings to the Add-in-Board partners so that they can design and manufacture cooling solutions for their graphics cards based on the amount of heat generated by the GPU die as determined by the TDP.
The Palit Gaming Pro RTX 3070 features a big heatsink cooler.
While the professional and industrial application of these ratings is quite interesting, the consumer application is far less so. The only reason why a normal PC gamer or an enthusiast might want to consider these ratings is to make a direct comparison between the power consumption of different GPUs. Another area where these ratings might come in handy is in the process of purchasing a power supply. Ratings such as TGP and TBP are most useful in the phase of making a purchase decision because TDP is generally lower than the TBP due to the fact that it does not account for all the other components on the PCB, let alone the cooling solution of the card.
Conclusion
TBP, TGP, and TDP are common ratings for power consumption of a graphics card that is often used by manufacturers in order to give an idea of how much power the internal components of the card require. While each rating actually gives a slightly different idea of the total power consumption due to disparities in the method, their fundamental goal is the same.
TDP is a measure of the heat produced by the core of the graphics card which is the GPU, and it is used to design and manufacture the cooling solutions for the graphics cards. TGP is the total power that is consumed by the PCB components including the GPU, and it does not take into account the different cooling elements or lighting elements of the card. TDP does take into account those factors, and thus provides a peak rating of how much power the graphics card can consume in the real-world under certain situations.
While all three of these ratings are fairly consistent and reliable, the actual power consumption of the graphics cards may vary significantly even between similar versions of the same GPU. This is why actual power consumption data measured in real-life is more accurate than these ratings due to the fact that the ratings are constant and do not always accurately translate into real-life numbers.
25 лет спустя: краткий анализ эффективности GPU

Первые 3D-видеокарты появились 25 лет назад, и с тех пор их мощность и сложность выросли в таком масштабе, как ни один другой чип компьютера. В те времена графические процессоры были меньше 100 мм2 размером, имели около 1 миллиона транзисторов и потребляли всего несколько ватт энергии.
Сегодня же типичная видеокарта может иметь 14 миллиардов транзисторов на кристалле размером 500 мм2 и потреблять более 200 Вт энергии. Возможности этих бегемотов будут неизмеримо больше, чем у их древних предшественников, но стали ли они эффективнее со всеми этими транзисторами и ваттами энергии?
Сказка о Двух Числах
В этой статье мы рассмотрим, насколько хорошо разработчики GPU смогли воспользоваться увеличением размеров кристалла и энергопотребления, чтобы предложить нам больше вычислительной мощности. Прежде чем идти дальше, вы можете освежить в памяти устройство видеокарты или пройтись по истории современного GPU. С этой информацией вам будет легче ориентироваться.
Чтобы понять, как менялась эффективность графического процессора, и менялась ли вообще, мы использовали отличную базу данных TechPowerUp, выбрав образцы процессоров за период последних 14 лет. Такой период обусловлен тем, что именно 14 лет назад GPU перешли на унифицированную структуру шейдеров.
Вместо того чтобы выделять отдельные вычислительные блоки процессора для обработки треугольников и пикселей, унифицированные шейдеры являются арифметическими логическими единицами, предназначенными для любых вычислений, связанных с трехмерной графикой. Благодаря этому, мы можем последовательно замерить относительную производительность каждого GPU по параметру количества его операций с плавающей точкой в секунду (FLOPS – FLoating-point Operations Per Second).
AMD использует унифицированную шейдерную архитектуру почти 12 лет
Вендоры часто стараются указывать значения FLOPS в качестве показателя максимальной производительности GPU. И хотя на самом деле это далеко не единственный показатель, определяющий скорость работы графического процессора, FLOPS дает нам цифры, с которыми мы можем работать.
То же касается и размеров кристалла, означающего рабочую площадь чипа. Однако чипы могут быть одинаковы по размеру, но сильно отличаться по количеству транзисторов.
Например, процессор Nvidia G71 (GeForce 7900 GT) 2005 года имеет размер 196 мм2 и имеет 278 миллионов транзисторов, а TU117, выпущенный в начале прошлого года (GeForce GTX 1650), всего лишь на 4 мм2 больше, но в нём 4,7 миллиарда этих маленьких переключателей.
Диаграмма основных GPU Nvidia, показывающая изменения в плотности транзисторов за последние годы
Источник изображения: techspot.com
Естественно, из этого следует, что современные транзисторы намного меньше, чем в старых чипах, и это очень важно. Так называемый технологический процесс – общая разрешающая способность при изготовлении процессора, – используемый производителями оборудования, с годами менялся и постепенно становился все меньше и меньше. Поэтому мы проанализируем эффективность с точки зрения плотности кристалла, которая является мерой того, сколько миллионов транзисторов приходится на один мм2 площади кристалла.
Пожалуй, самым спорным показателем, который мы будем использовать, является показатель энергопотребления GPU. Многие читатели отнесутся скептически, ведь мы используем значение теплопакета (TDP), заявленное производителем. На самом деле это значение отражает (или, по крайней мере, должно отражать) количество тепла, выделяемого в среднем всей видеокартой при высокой нагрузке.
Потребляемая кремниевыми чипами энергия действительно в основном превращается в тепло, но проблема использования TDP не в этом. Дело в том, что разные вендоры указывают это число при разных условиях, не обязательно во время пиковых FLOPS. Кроме того, это значение мощности для всей видеокарты в целом, включая встроенную память, а не только для основного её потребителя – собственно GPU. Можно измерить энергопотребление видеокарты напрямую, как это делали, например, TechPowerUp для своих обзоров GPU. Когда они тестировали GeForce RTX 2080 Super с заявленным производителем TDP 250 Вт, они обнаружили, что энергопотребление в среднем составило 243 Вт, и достигло максимума в 275 Вт во время тестирования.
Но всё-же мы решили учитывать показатель TDP в нашем анализе ради простоты и удобства, условившись весьма осторожно делать любые выводы касаемо производительности, основанные исключительно на её зависимости от номинальной тепловой мощности.
Сейчас мы проведем прямое сравнение по двум показателям: GFLOPS и плотность кристалла. Один GFLOPS равен 1000 миллионам операций с плавающей точкой в секунду, и мы имеем дело со значением для вычислений одинарной точности (FP32), выполняемых исключительно унифицированными шейдерами. Наше сравнение примет форму графика:
Источник изображения: techspot.com
Ось X отображает GFLOPS на единицу TDP – чем больше, тем лучше. Чем меньше, тем нерациональней используется энергопотребление. То же справедливо для оси Y, где у нас GFLOPS на единицу плотности кристалла. Чем больше транзисторов удастся поместить на один квадратный мм, тем выше получится производительность. Таким образом, общая эффективность работы GPU (учитывая количество транзисторов, размер кристалла и TDP) возрастает по мере приближения к правому верхнему углу графика.
Все значения в районе верхнего левого угла в основном говорят о том, что «благодаря вычислительной мощности кристалла, этот GPU обеспечивает хорошую производительность, но за
счет использования относительно большого количества энергии». Идем к правому нижнему углу, и там у нас будут GPU, которые «очень энергоэффективные, но сравнительно слабенькие».
Короче говоря, мы оцениваем эффективность работы GPU исходя из его потребляемой мощности пропорционально количеству транзисторов.
Эффективность GPU: TDP vs количество транзисторов
Церемониться мы не будем, вот результаты:
Источник изображения: techspot.com
Мы видим, что результаты довольно разбросанные, но имеют базовую закономерность: старые графические процессоры, такие как G80 или RV670, гораздо менее эффективны по сравнению с более современными решениями, такими как Vega 20 или GP102. Оно и понятно. В конце концов, чего бы стоили команды инженеров-электронщиков, изо всех сил старающихся постоянно создавать новые продукты, которые становились бы всё менее эффективными с каждым выпуском.
Но некоторые результаты представляют особый интерес. Прежде всего, это TU102 и GV100. Оба чипа сделаны Nvidia и используются в видеокартах GeForce RTX 2080 Ti и Titan V, соответственно.
Можно возразить, что ни один из них не был разработан для общепотребительского рынка. Особенно это касается GV100, поскольку он действительно предназначен для рабочих станций и вычислительных серверов. Поэтому, хотя они и являются самыми эффективными из всех процессоров, но они предназначены для специализированных рынков и стоят намного дороже стандартных.
Еще один GPU, который выделяется как белая ворона – это GP108. Этот чип от Nvidia чаще всего встречается в GeForce GT 1030 – недорогом продукте, выпущенном в 2017 году, и имеющем очень маленький размер. Процессор размером всего 74 мм2 с TDP всего 30 Вт. Однако его относительная производительность с плавающей точкой на самом деле не лучше, чем у Nvidia G80 – первого GPU с унифицированной шейдерной архитектурой (2006).
Графический процессор Nvidia G80. Источник
По другую сторону от GP108 находится чип AMD Fiji, который использовался в серии Radeon R9 Fury. Это получилось не слишком энергоэффективное решение, особенно учитывая, что использование HBM-памяти должно было помочь в этом отношении. Фиджи сильно греется, что плохо сказывается на экономичности полупроводников из-за возросшей утечки. Именно здесь потребляется электрическая энергия, а не в схеме как таковой. Все чипы имеют токи утечки, но с температурой скорость потерь увеличивается.
Но самым интересным моментом является, пожалуй, Navi 10. Это новейший GPU от AMD, производимый TSMC на их передовом 7-нм техпроцессе. В то же время, Vega 20 произведён на том же техпроцессе почти два года назад, но выглядит более эффективным. В чём же дело?
Под этими вентиляторами стоит GPU Vega 20. Источник
Vega 20 (AMD использовала его только в одной потребительской видеокарте – Radeon VII) был последним процессором, созданным AMD в архитектуре GCN (Graphics Core Next). Она объединяет огромное количество унифицированных шейдерных ядер в единый узел, в котором основное внимание уделено формату FP32. Однако программирование устройства для достижения этой производительности было нелегким делом, и ему не хватало гибкости.
Navi 10 использует новейшую архитектуру RDNA, которая решает эту проблему. Решение новое, созданное на относительно новом техпроцессе, поэтому можно ожидать повышения эффективности по мере того, как TSMC развивает свой техпроцесс, а AMD обновляет архитектуру.
Если брать во внимание только массовые продукты, то наиболее эффективные GPU на нашем графике – это GP102 и GP104. Это чипы Nvidia на архитектуре Pascal и мы найдём их в таких видеокартах как GeForce GTX 1080 Ti, GTX 1070 и GTX 1060. Рядом с GP102, не обозначенный меткой, расположился TU104. Это новейший Turing-чип от Nvidia, устанавливаемый в линейку GeForce RTX: 2060, 2070 Super, 2080, 2080 Super и многие другие.
Обзор и тестирование видеокарты MSI GeForce GTX 1080 Ti GAMING X TRIO
Они также изготовлены TSMC, но с использованием техпроцесса, специально разработанного для продуктов Nvidia, называемого 12FFN, который сам по себе является усовершенствованной версией 16FF.
Улучшения направлены на увеличение плотности кристалла при одновременном уменьшении утечек. Этим, возможно, объясняется то, что процессоры Nvidia выглядят более эффективными.
Эффективность GPU: TDP vs площадь кристалла
Если не учитывать техпроцесс, и вместо количества транзисторов на кристалле использовать в анализе лишь площадь кристалла, то мы увидим совершенно иную картину.
На этом графике эффективность увеличивается так же, но теперь мы видим, что некоторые ключевые позиции поменялись местами. TU102 и GV100 «осыпались», тогда как Navi 10 и Vega 20 подпрыгнули. Это связано с тем, что первые два процессора представляют собой огромные чипы (754 мм2 и 815 мм2), тогда как последние два от AMD намного меньше (251 мм2 и 331 мм2).
Оставим на графике только самые последние разработки, чтобы подчеркнуть различия:
Становится очевидным, что AMD пренебрегает энергоэффективностью в пользу уменьшения размеров кристалла.
Другими словами, AMD хотят получить больше GPU чипов с каждой произведённой кремниевой пластины, в то время как Nvidia, похоже, придерживается стратегии увеличения энергоэффективности каждого чипа в ущерб его размеру и, соответственно, стоимости изготовления (чем больше чип, тем меньше их можно разместить на одной пластине).
Продолжат ли AMD и Nvidia впредь следовать выбранным стратегиям? Первые уже заявили, что в RDNA 2.0 они намерены на 50% улучшить соотношение «производительность на ватт», поэтому мы ждём их новые GPU дальше справа, по нашему графику. А что насчет Nvidia?
А они, к сожалению, печально известны своей молчаливостью относительно своих планов. Но известно, что их новые процессоры будут производить TSMC и Samsung на том же техпроцессе, который использовался для Navi. Были некоторые заявления о том, что мы увидим значительное снижение энергопотребления, и в то же время большое увеличение количества унифицированных шейдеров. Поэтому, судя по всему, Nvidia также не нарушит тенденций на нашем графике.
Так как же повышалась эффективность GPU?
Вышесказанное довольно убедительно показало, что за прошедшие годы AMD и Nvidia повысили производительность на единицу плотности кристалла и на единицу TDP. Иногда рывки в производительности были впечатляющими.
Взять к примеру Nvidia G92 и TU102. Первый из них это сердце GeForce 8800 GT и 9800 GTX, на его кристалле площадью 324 мм2 размещено 754 миллиона транзисторов. Когда он появился в октябре 2007 года, он был высоко оценен за свою производительность и экономичность.
Через одиннадцать лет Nvidia предложила нам TU102 в виде GeForce RTX 2080 Ti. Этот процессор имеет почти 19 миллиардов транзисторов на площади 754 мм2 – то есть, в 25 раз больше микроскопических компонентов на поверхности, которая лишь в 2,3 раза больше.
Всё это не было бы возможным без усилий TSMC по совершенствованию своей производственной технологии. G92 в 8800 GT был построен на 65-нм техпроцессе, тогда как для производства новейшего TU102 используется специальный масштаб 12FFN. Названия этих методов производства на самом деле ничего не говорят нам о разнице между ними, но зато говорят показатели GPU. Плотность кристалла у нового процессора –24,67 миллиона транзисторов на мм2, тогда как у старого – 2,33 млн.
Более чем десятикратное увеличение плотности кристалла в основном и обуславливает огромную разницу в эффективности двух GPU. Меньшие логические блоки требуют меньше энергии для работы, а сокращение длины проводников между ними увеличивает и скорость обмена данными. Наряду с улучшением производства кремниевых чипов (уменьшение количества дефектов и совершенствование изоляции), всё это приводит к возможности работать на более высоких тактовых частотах при той же мощности, или наоборот – использовать меньшее энергопотребление при той же тактовой частоте.
Процессор AMD Vega 10 с двумя чипами HBM-памяти по 4 Гб слева.
Кстати о частотах. Давайте сравним RV670 от ноября 2007 года в Radeon HD 3870 с Vega 10 в Radeon RX Vega 64, выпущенной в августе 2017 года.
Первый имеет фиксированную тактовую частоту около 775 МГц, тогда как последний имеет как минимум три доступные частоты:
- 850 МГц – при обычной работе на компьютере, 2D-обработка.
- 1250 МГц – для сложных 3D-задач (базовая частота, «base clock»)
- 1550 МГц – для переменных легких/средних 3D-нагрузок («boost clock»)
Мы говорим «как минимум», потому что видеокарта динамически изменяет свою тактовую частоту и потребляемую мощность, между вышеуказанными значениями, в зависимости от текущей рабочей нагрузки и рабочей температуры. Это сегодня мы воспринимаем это как само собой разумеющееся, но 13 лет назад такого управления частотами просто не существовало. Оно, правда, никак не влияет на результаты наших анализов эффективности, поскольку мы брали только пиковую производительность обработки (т.е. на максимальных частотах), но оно влияет на оценку работы карты в глазах потребителя.
Но самым главным поводом постоянного повышения эффективности GPU в течение многих лет послужили изменения в использовании процессора как такового. В июне 2008 года лучшие суперкомпьютеры в мире были оснащены центральными процессорами от AMD, IBM и Intel; спустя одиннадцать лет к этой компании присоединился ещё один производитель: Nvidia.
Nvidia Tesla P100 с процессором GP100
Их процессоры GV100 и GP100 были разработаны почти исключительно для вычислительного сегмента рынка, в них заложено множество ключевых архитектурных функций, и многие из них очень похожи на CPU. Например, их внутренняя память (кэш) напоминает типичный серверный CPU:
- Регистровый файл (register file) на 1 SM = 256 кБ
- L0 кэш на 1 SM = 12 кБ инструкции
- L1 кэш на 1 SM = 128 кБ инструкции/данные
- L2 кэш на GPU = 6 МБ
Для сравнения: Intel Xeon E5-2692 v2, который использовался во многих вычислительных серверах:
- L1 кэш на ядро = 32 кБ инструкции/данные
- L2 кэш на ядро = 256 кБ
- L3 кэш на CPU = 30 МБ
Логические блоки внутри современного GPU поддерживают ряд форматов данных; некоторые имеют специализированные блоки для целочисленных вычислений, вычислений с плавающей точкой и матриц, в то время как другие имеют сложные структуры сразу для всех видов вычислений. Блоки соединены с кэшем и внутренней памятью широкими высокоскоростными интерконнектами. Безусловно, все эти нововведения положительно сказываются на обработке 3D-графики, но для большинства игр они избыточны. Но такие GPU разрабатывались не только для графики, а для более широкого спектра рабочих нагрузок, и для них есть специальное название: GPU общего назначения (GPGPU).
Machine Learning и Data Mining – это те две области, которые извлекли наибольшую выгоду из разработки GPGPU и поддерживаемых пакетов программного обеспечения и API (например, CUDA от Nvidia, FireStream от AMD, а также OpenCL), поскольку они объединяют в себе множество сложных массивно-параллельных вычислений.
Большие GPU, с тысячами унифицированных шейдерных блоков, идеально подходят для таких задач, и AMD с Nvidia (а теперь ещё и Intel присоединяется к их веселью) вкладывают миллиарды
долларов в разработку чипов, обеспечивающих все более высокую вычислительную производительность.
Первая дискретная видеокарта Intel за последние 20 лет. Превью видеокарт Intel Xe, часть 2
На данный момент обе компании разрабатывают универсальные архитектуры для своих GPU, которые могут использоваться в различных секторах рынка, как правило избегая создания полностью специфичных решений отдельно для графики и отдельно для вычислений. Это связано с тем, что основная часть прибыли от производства GPU по-прежнему поступает от продажи 3D-видеокарт, но уже неясно, сохранится ли такое положение дел в дальнейшем. Поскольку спрос на compute-мощности продолжает расти, вполне возможно, что AMD или Nvidia начнут выделять больше своих ресурсов на повышение эффективности чипов для этих рынков и меньше – на рендеринг.
Но что бы ни случилось дальше, мы знаем одно: на следующем этапе высокопроизводительные GPU с миллиардами транзисторов по-прежнему будут чуточку эффективнее своих предшественников. И это хорошая новость, независимо от того, кто это делает и для чего.
TGP и TDP видеокарт ноутбуков
Для начала разберём общие термины, без них ни как не обойтись. Многие пользователи путают понятия TDP, TGP и TBP у видеокарт. Если объяснять очень упрощённо, то любая видеокарта, хоть в ноутбуке, хоть в ПК, состоит из графического чипа и его обвязки (чипы видеопамяти, компоненты модуля регулятора напряжения (VRM) и т.д.). Уяснив это сейчас дальше будет проще разобрать все понятия. Ещё раз, очень упрощённо: графический чип + обвязка.
TDP — Thermal Design Power (тепловая схема питания) или просто Thermal Design (тепловой расчет) — это мера энергопотребления только лишь одного графического чипа, измеряется в ваттах (Вт). Данный параметр важен скорее для производителей десктопных видеокарт и ноутбуков, нежели для простых пользователей, поскольку на основе энергопотребления графического чипа чаще всего рассчитывается система охлаждения видеокарты для ПК или в ноутбуке. И именно поэтому производители практически никогда или очень редко публикуют данные по TDP своих видеокарт в общественный доступ, повторюсь, для простых пользователей этот параметр не играет большой роли. Для производителей же этот параметр важен, он косвенно говорит о тепловыделении графического чипа.
TGP — Total Graphics Power (общая графическая мощность) — это мера энергопотребления графического чипа (TDP) вместе с его обвязкой, также измеряется в ваттах (Вт). То есть, в случае с десктопными видеокартами сюда входит всё энергопотребление в целом таких компонентов, как: графический чип, чипы памяти, компоненты VRM (MOSFET-транзисторы, дроссели, конденсаторы и т.д.), система питания памяти, вентиляторы, подсветка и т.д. Простыми словами — это энергопотребление всей видеокарты в целом. Параметр TGP в десктопных видеокартах очень важен для правильного подбора мощности блока питания. В ноутбуках — для оценки производительности видеокарты и косвенно — оценки качества охлаждения ноутбука, об этом дальше мы ещё поговорим. Аббревиатуру TGP чаще всего использует компания Nvidia.
TBP — Typical Board Power (типичная мощность платы) — это практически та же самая мера, что и TGP, её использует компания AMD для своих видеокарт Radeon. Хотя многими пользователями и тестировщиками опытным путём было выявлено, что видеокарты AMD Radeon могут потреблять заметно больше энергии, чем указано в характеристике TBP.
Интересный факт:
Показатель TGP видеокарт Nvidia практически всегда совпадает с полным энергопотреблением видеокарты. А вот показатель TBP, указываемый в характеристиках видеокарт AMD, как правило, не отражает полное энергопотребление всей видеокарты в целом.
Компания Nvidia также иногда употребляет аббревиатуру TBP для своих видеокарт из профессиональной линейки, но с чуть другой расшифровкой — Total board power (общая мощность платы). Данный показатель аналогичен показателю TGP в обычных игровых линейках видеокарт Nvidia.
Так что там с TDP, TGP и TBP в ноутбуках?
Аббревиатура TDP применительно к видеокартам ноутбуков практически никогда не используется, как, собственно, и аббревиатура TBP. По какой-то причине в ноутбуках с видеокартами AMD Radeon производители ноутбуков не указывают энергопотребление видеокарт. Зато в ноутбуках с видеокартами Nvidia всё чаще стал указываться параметр TGP. Собственно, только параметр TGP и указывается в ноутбуках с видеокартами Nvidia, других параметров, говорящих об энергопотреблении видеокарты в ноутбуках, я пока не встречал.
Если при выборе десктопной видеокарты среди различных брендов, основанной на одном и том же графическом процессоре (например, Nvidia GeForce RTX 3060), пользователи чаще всего ориентируются на качество системы охлаждения (1, 2 или 3 вентилятора, массивность радиатора, количество тепловых трубок в радиаторах и т.д.), то при выборе ноутбуков среди различных брендов, имеющих внутри одну и ту же модель видеокарты (например, NVIDIA GeForce RTX 3060), пользователи, касательно видеокарты, чаще всего ориентируются на параметр TGP.
Именно параметр TGP видеокарты ноутбука говорит нам о том на сколько в ноутбуке задушена или раскрыта видеокарта, а также даёт косвенно понять на сколько качественное/не качественное охлаждения в данной модели ноутбука. Например, в первом ноутбуке распаяна видеокарта NVIDIA GeForce RTX 3060 на 90W, а во втором ноутбуке — NVIDIA GeForce RTX 3060 на 130W. Понятное дело, что во втором ноутбуке видеокарта будет производительнее и качество охлаждения с большой долей вероятности будет лучше (раз производитель не стал душить видеокарту до 90W, как в первом ноутбуке).
К сожалению, далеко не все магазины и не все производители ноутбуков указывают энергопотребление (TGP) видеокарты в той или иной модели ноутбука. Зачастую эту информацию по интересующей модели ноута приходится искать самостоятельно.
Для начала стоит заглянуть на официальный сайт производителя ноутбука и посмотреть характеристики интересующей модели. Например, характеристики ноутбуков Lenovo можно посмотреть на этом официальном сайте — https://psref.lenovo.com/Detail/IdeaPad/IdeaPad_Gaming_3_15ACH6?M=82K2002ERK. В данном случае мы видим, что в модели Lenovo IdeaPad Gaming 3 15ACH6 82K2002ERK распаяна видеокарта NVIDIA GeForce RTX 3060 с TGP 90W (эта цифра указана с учётом технологии Dynamic Boost 2.0, то есть постоянный TGP будет чуть меньше). А, например, в ноутбуке Lenovo Legion 5 15ACH6H 82JU000XRU распаяна та же NVIDIA GeForce RTX 3060, но с TGP 130W (эта цифра указана с учётом технологии Dynamic Boost 2.0, то есть постоянный TGP будет чуть меньше) — https://psref.lenovo.com/Detail/Legion/Lenovo_Legion_5_15ACH6H?M=82JU000XRU. В данном случае, естественно, видеокарта в серии Lenovo Legion 5 15ACH6H будет мощнее и качество охлаждения лучше. Поиск интересующей модели можно выполнять в верхней строке поиска по модели, например, ввести 82JU000XRU, дождаться появления подсказки с моделью и кликнуть на неё.
Если на официальном сайте производителя ничего найти не удалось, тогда ищем информацию в обзорах, тестах ноутбуков, в отзывах (рекомендую перепроверять информацию из отзывов), на форумах и т.д. В конце статьи будут полезные ссылки, где также можно найти информацию о TGP по многим моделям ноутбуков.
Допустим, мы нашли информацию о том, сколько ватт (TGP) потребляет видеокарта в том или ином ноутбуке. А как понять — много это или мало? Чтобы лучше ориентироваться в производительности видеокарт давайте далее рассмотрим теплопакеты каждой версии современных игровых видеокарт Nvidia.
| Видеокарта | TGP от (Вт) | TGP до (Вт) |
| GeForce GTX 1650 ( Max-Q ) | 35 | 50 |
| GeForce GTX 1650 Ti ( Max-Q ) | 35 | 80 |
| GeForce RTX 3050 | 35 | 80 |
| GeForce RTX 3050 Ti | 35 | 80 |
| GeForce GTX 1660 Ti ( Max-Q ) | 60 | 80 |
| GeForce RTX 2060 ( Max-Q ) | 65 | 90 |
| GeForce RTX 2070 ( Max-Q ) | 80 | 115 |
| GeForce RTX 3060 | 60 | 115 |
| GeForce RTX 3070 | 80 | 125 |
| GeForce RTX 2080 ( Max-Q ) | 80 | 150 |
| GeForce RTX 3080 | 80 | 150+ |
Данные взяты с официального сайта Nvidia — https://www.nvidia.com/ru-ru/geforce/gaming-laptops/compare/, они не учитывают технологию Dynamic Boost 2.0, которая может добавлять от 5 до 20 Вт к энергопотреблению, перераспределяя мощность с центрального процессора.
Что такое Dynamic Boost 2.0
Dynamic Boost 2.0 — технология Nvidia, которая динамически (в реальном времени) перераспределяет питание между процессором и видеокартой. Данная технология может забирать у процессора от 5 до 20 Вт и отдавать их видеокарте. Компания Nvidia заявляет, что такое перераспределение может осуществляться от кадра к кадру.
Ранее, в предыдущем поколении мобильных видеокарт, производители указывали приставку Max-Q, если это была самая урезанная по теплопакету и частотам версия видеокарты. Поначалу многие пользователи не знали что означает приставка Max-Q и без особых раздумий покупали ноутбуки с такими видеокартами на борту. Но потом слух о слабой мощности видеокарт Max-Q распространился довольно широко и многие пользователи стали обходить стороной ноутбуки с такими видеокартами. В связи с плохой популярностью видеокарт Max-Q компания Nvidia решила больше не использовать это обозначение в урезанных версиях видеокарт. И теперь покупая ноутбук с условной GeForce RTX 3050 Ti нельзя сразу понять — сильно урезанная это версия видеокарты (35 Вт) или же нормальная (60-80 Вт), ведь рядом с максимально урезанной версией теперь мы не увидим приставку Max-Q.
| Модель | TGP* (Watt) | CUDA-Ядра | Базовая частота (MHz) | Турбочастота (MHz) |
Ширина шины памяти | Пропускная способность памяти |
|---|---|---|---|---|---|---|
| RTX 3060 Laptop GPU Max-Q | 60 | 3.840 | 817 | 1.282 | 192 Bit | 12 Gbps |
| RTX 3060 Laptop GPU Max-Q | 65 | 3.840 | 975 | 1.357 | 192 Bit | 12 Gbps |
| RTX 3060 Laptop GPU Max-Q | 70 | 3.840 | 1.050 | 1.402 | 192 Bit | 12 Gbps |
| RTX 3060 Laptop GPU | 80 | 3.840 | 900 | 1.425 | 192 Bit | 14 Gbps |
| RTX 3060 Laptop GPU | 85 | 3.840 | 1.035 | 1.485 | 192 Bit | 14 Gbps |
| RTX 3060 Laptop GPU | 90 | 3.840 | 1.163 | 1.530 | 192 Bit | 14 Gbps |
| RTX 3060 Laptop GPU | 95 | 3.840 | 1.215 | 1.567 | 192 Bit | 14 Gbps |
| RTX 3060 Laptop GPU | 100 | 3.840 | 1.267 | 1.605 | 192 Bit | 14 Gbps |
| RTX 3060 Laptop GPU | 105 | 3.840 | 1.305 | 1.642 | 192 Bit | 14 Gbps |
| RTX 3060 Laptop GPU | 110 | 3.840 | 1.342 | 1.680 | 192 Bit | 14 Gbps |
| RTX 3060 Laptop GPU | 115 | 3.840 | 1.387 | 1.702 | 192 Bit | 14 Gbps |
| RTX 3060 Founders Edition | 170 | 3.584 | 1.320 | 1780 | 192 Bit | 15 Gbps |
| RTX 3070 Laptop GPU Max-Q | 80 | 5.120 | 780 | 1290 | 256 Bit | 12 Gbps |
| RTX 3070 Laptop GPU Max-Q | 85 | 5.120 | 855 | 1365 | 256 Bit | 12 Gbps |
| RTX 3070 Laptop GPU Max-Q | 90 | 5.120 | 930 | 1410 | 256 Bit | 12 Gbps |
| RTX 3070 Laptop GPU | 115 | 5.120 | 1.110 | 1.560 | 256 Bit | 14 Gbps |
| RTX 3070 Laptop GPU | 120 | 5.120 | 1.170 | 1.590 | 256 Bit | 14 Gbps |
| RTX 3070 Laptop GPU | 125 | 5.120 | 1.215 | 1.620 | 256 Bit | 14 Gbps |
| RTX 3070 Founders Edition | 220 | 5.888 | 1.500 | 1730 | 192 Bit | 15 Gbps |
| RTX 3080 Laptop GPU Max-Q | 80 | 6.144 | 780 | 1245 | 256 Bit | 12 Gbps |
| RTX 3080 Laptop GPU Max-Q | 85 | 6.144 | 870 | 1320 | 256 Bit | 12 Gbps |
| RTX 3080 Laptop GPU Max-Q | 90 | 6.144 | 930 | 1365 | 256 Bit | 12 Gbps |
| RTX 3080 Laptop GPU | 115 | 6.144 | 1.110 | 1.545 | 256 Bit | 14 Gbps |
| RTX 3080 Laptop GPU | 120 | 6.144 | 1.155 | 1.575 | 256 Bit | 14 Gbps |
| RTX 3080 Laptop GPU | 125 | 6.144 | 1.185 | 1.605 | 256 Bit | 14 Gbps |
| RTX 3080 Laptop GPU | 130 | 6.144 | 1.230 | 1.635 | 256 Bit | 14 Gbps |
| RTX 3080 Laptop GPU | 135 | 6.144 | 1.260 | 1.665 | 256 Bit | 14 Gbps |
| RTX 3080 Laptop GPU | 140 | 6.144 | 1.275 | 1.665 | 256 Bit | 14 Gbps |
| RTX 3080 Laptop GPU | 145 | 6.144 | 1.320 | 1.695 | 256 Bit | 14 Gbps |
| RTX 3080 Laptop GPU | 150 | 6.144 | 1.350 | 1.710 | 256 Bit | 14 Gbps |
| RTX 3080 Founders Edition | 320 | 8.704 | 1.440 | 1.710 | 320 Bit | 19 Gbps |
Итак, теперь узнав TGP видеокарты в интересующем ноутбуке и заглянув в таблицу выше — можно примерно понять, сильно ли урезана видеокарта по мощности или нет.
Ниже будут приведены полезные ссылки по информации о TGP мобильных видеокарт с ресурса notebookcheck-ru.com.
И ещё несколько полезных ссылок:
-
(оф. сайт), другой источник — habr.com (из блога ASUS) , другой источник — VideoCardz (оф. сайт) (форум MSI)
Лучшая благодарность за статью — поделиться ею с друзьями, кликнув на иконки соц. сетей ниже. Это поможет нам в продвижении сайта, да и вашим друзьям статья может оказаться полезной!