Gpu utilization что это такое

Monitoring GPU utilization for Deep Learning

Follow this guide to learn how to use built in and third party tools to monitor your GPU utilization with Deep Learning in real time.

a year ago • 5 min read

GPUs are the premiere hardware for most users to perform deep and machine learning tasks. «GPUs accelerate machine learning operations by performing calculations in parallel. Many operations, especially those representable as matrix multiplies, will see good acceleration right out of the box. Even better performance can be achieved by tweaking operation parameters to efficiently use GPU resources.» (1)

In practice, performing deep learning calculations is computationally expensive even if done on a GPU. Furthermore, it can be very easy to overload these machines, triggering an out of memory error, as the scope of the machine’s capabilities to solve the assigned task is easily exceeded. Fortunately, GPUs come with built-in and external monitoring tools. By using these tools to track information like power draw, utilization, and percentage of memory used, users can better understand where things went wrong when things go wrong.

GPU Bottlenecks and Blockers

Preprocessing in the CPU

In many deep learning frameworks and implementations, it is common perform transformations on data using the CPU prior to switching to the GPU for the higher order processing. This pre-processing can take up to 65% of epoch time, as detailed in this recent study. Work like transformations on image or text data can create bottlenecks that impede performance. Running these same processes on a GPU can add project-changing efficiency to training times.

What causes Out Of Memory (OOM) errors?

An out of memory means the GPU has run out of resources that it can allocate for the assigned task. This error often occurs with particularly large data types, like high-resolution images, or when batch sizes are too large, or when multiple processes are running at the same time. It is a function of the amount of GPU RAM that can be accessed.

Suggested solutions for OOM

• Use a smaller batch size. Since iterations are the number of batches needed to complete one epoch, lowering the batch size of the inputs will lessen the amount of data the processes the GPU needs to hold in memory for the duration of the iteration. This is the most common solution for OOM error
• Are you working with image data and performing transforms on your data? Consider using a library like Kornia to perform transforms using your GPU memory
• Consider how your data is being loaded. Consider using a DataLoader object instead of loading in data all at once to save working memory. It does this by combining a dataset and a sampler to provide an iterable over the given dataset

Command line tools for monitoring performance:

nvidia-smi windows

nvidia-smi

Standing for the Nvidia Systems Management Interface, nvidia-smi is a tool built on top of the Nvidia Management Library to facilitate the monitoring and usage of Nvidia GPUs. You can use nvidia-smi to print out a basic set of information quickly about your GPU utilization. The data in the first window includes the rank of the GPU(s), their name, the fan utilization (though this will error out on Gradient), temperature, the current performance state, whether or not you are in persistence mode, your power draw and cap, and your total GPU utilization. The second window will detail the specific process and GPU memory usage for a process, like running a training task.

Tips for using nvidia-smi

Glances

Glances is another fantastic library for monitoring GPU utilization. Unlike nvidia-smi , entering glances into your terminal opens up a dashboard for monitoring your processes in real time. You can use this feature to get much of the same information, but the realtime updates offer useful insights about where potential problems may lie. In addition to showing relevant data about utilization for your GPU in real time, Glances is detailed, accurate, and contains CPU utilization data.

Glances is very easy to install. Enter the following in your terminal:

pip install glances

and then to open the dashboard and gain full access to the monitoring tool, simply enter:

Read more in the Glances docs here.

Other useful commands

Be wary of installing other monitoring tools on a Gradient Notebook. For example, gpustat and nvtop are not compatible with Gradient Notebooks. The following are some other built-in commands that can help you monitor processes on your machine.

These are more focused towards monitoring CPU utilization:

• top — print out CPU processes and utilization metrics
• free — tells you how much memory is being used by CPU
• vmstat — reports information about processes, memory, paging, block IO, traps, and cpu activity

Paperspace Gradient makes it easy to view GPU performance in real time

In any Gradient Notebook, you can access plotted diagrams about GPU and CPU usage metrics. These are updated in real time, and they can be extended to cover a variable range of 1 minute to 12 hours. This window can be accessed by clicking on the «Metrics» icon on the lefthand side of the Notebook window. By clicking the icon, users will get access to the plotted data for:

• CPU usage: a measure of the amount of utilization the CPU has undergone at any given time, as a percentage of total capability
• Memory: the amount of RAM being used by the CPU at any given time, in GB
• GPU memory (used): the amount of GPU memory used at any given time on the processes
• GPU power draw: the amount of energy taken in by the GPU at any given time, in Watts
• GPU temperature: the temperature of the unit at any given time, in degrees Celsius
• GPU utilization: Percent of time over the past sample period during which one or more kernels was executing on the GPU
• GPU memory utilization: the percentage of time the memory controller was busy at any given time

Closing remarks

In this article, we saw how to use various tools to monitor GPU utilization on both remote and local linux systems, and saw how to take advantage of built in monitoring tools offered in Gradient Notebooks.

For more information about Paperspace, read our documentation or visit our homepage to get started with powerful cloud GPUs today!

What is GPU utilization and why is it important during training

As a data scientist or software engineer, you are likely familiar with the importance of GPUs during the training of deep learning models. GPUs, or Graphics Processing Units, are specialized hardware devices designed to accelerate the processing of large amounts of data in parallel. This makes them ideal for the computationally intensive tasks associated with training deep learning models.

However, it is not uncommon for data scientists or software engineers to encounter the issue of low GPU utilization during training. This means that the GPU is not being fully utilized, and the training process may take longer than necessary. In this blog post, we will explore the reasons why this might occur and the steps that can be taken to improve GPU utilization during training.

Why is GPU utilization low during training?

There are several reasons why GPU utilization may be low during training. Some of the most common reasons are:

1. Data loading and preprocessing

Data loading and preprocessing can be time-consuming tasks that may not require the use of the GPU. If these tasks are not optimized correctly, they can cause the GPU to remain idle while waiting for data to be loaded or processed.

2. Insufficient batch size

Batch size refers to the number of training examples that are processed at once. If the batch size is too small, the GPU may not be fully utilized, as it has to wait for the CPU to send it more data.

3. Memory constraints

Deep learning models are often large and require a significant amount of memory to train. If the GPU does not have enough memory to hold the model and the data, it may not be able to fully utilize the available resources.

4. Inefficient model architecture

The architecture of the deep learning model can also affect GPU utilization. If the model is not optimized for the GPU, it may not be able to take advantage of the parallel processing capabilities of the GPU.

How can GPU utilization be improved during training?

There are several steps that can be taken to improve GPU utilization during training. Some of the most effective strategies include:

1. Optimizing data loading and preprocessing

One of the most effective ways to improve GPU utilization during training is to optimize data loading and preprocessing. This can be achieved by using data loaders that prefetch data and preprocess it on the CPU while the GPU is training the model.

2. Increasing batch size

Increasing the batch size can also help improve GPU utilization during training. This allows the GPU to process more data in parallel, which can reduce the time spent waiting for new data to arrive.

3. Reducing memory usage

Reducing memory usage can be achieved by using mixed precision training, which allows for the use of lower precision data types, reducing the memory footprint of the model. Additionally, reducing the size of the model architecture can also help reduce memory usage.

4. Optimizing the model architecture

Finally, optimizing the model architecture can help improve GPU utilization. This can be achieved by using techniques such as model pruning, which removes unnecessary layers or parameters from the model, or by using model parallelism, which allows for the parallel processing of different parts of the model on multiple GPUs.

Conclusion

In conclusion, GPU utilization is an important factor to consider when training deep learning models. Low GPU utilization can significantly increase the time required to train a model and reduce the efficiency of the training process. By optimizing data loading and preprocessing, increasing batch size, reducing memory usage, and optimizing the model architecture, data scientists and software engineers can improve GPU utilization and accelerate the training of deep learning models.

Какая нагрузка будет на видеокарту – различные рабочие нагрузки и защита от износа

Каким должно быть использование вашего графического процессора и когда это вызывает беспокойство? Сегодня я рассмотрю эти основные вопросы для различных рабочих нагрузок и расскажу, как уменьшить длительную нагрузку на GPU.

Давайте погрузимся глубоко вместе.

Понимание использования графического процессора

Во-первых, давайте установим базовое понимание использования графического процессора.

В то время как ваш ЦП отвечает, в основном, за всю обработку общего назначения, которая происходит на вашем ПК в данный момент времени, ваш GPU специально привязан к рабочим нагрузкам с графическим ускорением, особенно тем, которые включают любую форму анимации, видео или 2D/3D-графики.

По сравнению с ЦП, графический процессор гораздо чаще достигает высокого уровня использования при различных рабочих нагрузках, и, в целом, он вызывает меньше проблем.

Процессор под максимальной нагрузкой заставит всю систему чувствовать себя несколько вялой до тех пор, пока не закроется приложение, вызвавшее максимальную загрузку, в то время как графический процессор достигнет полной загрузки во многих приложениях без серьёзных последствий для общей производительности.

Это не обязательно означает, что так и должно быть – это больше о проблемах долгосрочного использования графического процессора и о том, как их уменьшить.

Пока давайте поговорим о том, какой загрузки видеокарты можно ожидать во время большинства ваших рабочих нагрузок.

Загрузка видеокарты при повседневном использовании

При обычном использовании рабочего стола загрузка графического процессора не должна быть очень высокой.

Если вы не смотрите видео или что-то в этом роде, использование вашего графического процессора, вероятно, будет на нуле или ниже 2 процентов – и это совершенно нормально.

Это, скорее всего, изменится, например, когда вы включите видео, вот скриншот использования моего графического процессора во время просмотра видео.

Вы можете увидеть всплеск использования, когда начинается видео, – в основном, это связано с декодированием видео.

Как только видео заканчивается, всё возвращается к использованию 1% или меньше, так как GPU в настоящее время активно не используется.

Так что да, ваш графический процессор не должен испытывать никакой нагрузки в большинстве сценариев использования настольных компьютеров.

До тех пор, пока вы не начнёте играть или выполнять профессиональные рабочие нагрузки, которые могут использовать ускорение графического процессора, максимум, отчего ваш графический процессор должен нагружаться, – это просмотр видео и другие лёгкие варианты использования.

Использование графического процессора во время игр

В игровых сценариях использование вашего графического процессора будет различаться в зависимости от нескольких факторов, но это, безусловно, один из случаев использования, когда ожидается максимальное использование графического процессора.

Получите ли вы полное использование графического процессора или нет, во многом зависит от следующих двух моментов:

• Игра работает с ограниченной частотой обновления/частотой кадров или нет. Такие настройки, как V-Sync, не только ограничивают частоту обновления, но и определяют частоту кадров, чтобы она соответствовала вашему дисплею.
• Является ли игра графически интенсивной для вашей видеокарты или нет. Например, запуск игры со стандартным ограничением 60 кадров в секунду не сильно уменьшит использование, если вы изо всех сил пытаетесь достичь этого ограничения в большинстве сценариев.

Итак, должен ли графический процессор полностью использоваться в играх?

Да и нет. В этом нет никакого реального вреда, так как вы вряд ли будете играть более нескольких часов за раз, может быть, восемь, если вы молоды и глупы, как я когда-то был, но только потому, что вы можете, не обязательно означает, что вы должны.

И я даже не говорю о долговечности аппаратного обеспечения или чем-то ещё – я говорю о частоте кадров и задержке ввода.

Особенно, если вы запускаете игры с неограниченной частотой кадров, вы получите дополнительную задержку ввода по сравнению с запуском игр со стабильной и ограниченной частотой кадров.

Вот почему в последние несколько лет стали популярны такие функции, как AMD Anti-Lag, Nvidia Low Latency Mode и Nvidia Reflex. Все эти технологии служат для небольшого ограничения GPU ниже максимума, что уменьшает задержку ввода.

Игры, которые поставляются со встроенной поддержкой Nvidia Reflex, могут обеспечить лучшие результаты, чем другие технологии Anti-Lag, поскольку Reflex может работать в движке так же, как ограничение FPS в игре.

Ещё один хороший способ контролировать внутриигровой FPS (и, следовательно, загрузку графического процессора) – использовать сервер статистики RivaTuner для ограничения FPS в стабильном диапазоне ниже максимального использования, но ограничение FPS в игре или Nvidia Reflex всегда должны быть вашим первым выбором.

Использование видеокарты при редактировании видео или 3D-рендеринге

В этих тяжелых рабочих нагрузках, когда задержка ввода не является проблемой, вполне ожидаемо, что ваш графический процессор достигнет высокой степени использования, часто даже максимального использования.

Однако, вам может потребоваться явно включить ускорение графического процессора в выбранном вами программном обеспечении для повышения производительности.

Например, мне нужно вручную включить ускорение графического процессора, если я хочу использовать его для ускорения рендеринга видео в Sony Vegas, или установить режим рендеринга CUDA в Premiere Pro (если я использую графический процессор Nvidia).

В целом, программное обеспечение, предназначенное для профессионального использования, в значительной степени будет использовать всё, что вы ему дадите.

В движках 3D-рендеринга на GPU, таких как Octane, Redshift, V-Ray, Arnold GPU, Cycles и других, использование вашего графического процессора будет чрезвычайно высоким. Оно может не достигать 100%, потому что рабочие нагрузки CUDA не нагружают GPU в полной мере, но он будет близок к этому.

Также обратите внимание, что диспетчер задач Windows не очень хорошо отображает использование рабочей нагрузки CUDA, поэтому обязательно используйте что-то вроде GPU-Z, чтобы получить полное представление о том, правильно ли используются ваши графические процессоры.

Такая высокая загрузка – это нормально, но она может вызывать опасения в зависимости от того, как часто вы подвергаете своё оборудование таким интенсивным нагрузкам и сколько времени требуется вашему оборудованию для выполнения этих задач.

Установив ожидания, давайте поговорим об опасениях и о том, что вы можете сделать, чтобы смягчить их.

Проблемы долгосрочного использования видеокарты

Основная проблема долгосрочного высокого использования видеокарты заключается в том, что вы начнёте каким-то образом ухудшать работу оборудования.

Хотя вы вряд ли повредите основной кремний, делая это, то, что вы, скорее всего, ухудшите после нескольких лет длительного использования графического процессора, будет термопаста, которую очень трудно заменить – для среднего пользователя – после деградации, так как вам нужно разобрать весь GPU, чтобы добраться до неё.

Как только термопаста графического процессора деградирует, всё становится очень проблематично.

Термопаста играет жизненно важную роль в любой системе охлаждения. Другой, более точный термин, используемый для термопасты, – «материал термоинтерфейса (TIM)».

Без рабочего материала теплового интерфейса тепло накапливается на кремнии процессора вместо передачи на радиатор и вентиляторы, где его можно безопасно рассеять.

Это не только значительно снижает потенциал охлаждения, что приводит к частому тепловому троттлингу и перегреву, но также начинает активно повреждать базовое оборудование, которое больше не может должным образом охлаждаться.

Основная причина, по которой вы редко слышите об этой проблеме, заключается в том, что термопаста для графического процессора обычно изготавливается со сроком службы намного больше, чем термопаста для центрального процессора – обычно около 5-10 лет.

Если вы используете свой графический процессор на полную мощность всего пару часов в день, вам может даже удастся заставить его работать дольше.

Как облегчить долгосрочную нагрузку на GPU

Первое и самое важное, что нужно сделать, это убедиться, что вы регулярно вытираете пыль с вашего графического процессора и остальной части вашего ПК.

Скопление пыли – само по себе – может вызвать повышение температуры и снизить эффективность охлаждения вашего оборудования.

Оберегайте свой компьютер от пыли, насколько это возможно, чистя его каждые 3-6 месяцев (чаще, если вы подвергаете его ежедневному интенсивному использованию), чтобы он работал дольше и стабильнее.

Помимо частого протирания пыли, важно дать графическому процессору и компьютеру время «подышать», когда это возможно.

Например, если вы играете, нет причин оставлять игры включенными, пока вы в них не играете, особенно в интенсивные игры.

Каким бы тихим ни было «бездействие» в играх, вы подвергаете своё оборудование чрезмерной нагрузке, когда оно не используется активно, по сути, без уважительной причины.

Во время активной игры вы можете уменьшить нагрузку на графический процессор, установив интеллектуальные ограничения частоты кадров (рекомендуется) или включив вертикальную синхронизацию.

Сократите настройки оттуда, чтобы предотвратить использование графического процессора на 99%, насколько это возможно, и конечным результатом будет не только более холодный и долговечный графический процессор, но и более стабильный и отзывчивый игровой процесс.

Если вы выполняете более интенсивные рабочие нагрузки, требующие, чтобы ваш ЦП и ГП работали в течение длительного времени, существуют и другие методы, которые вы можете использовать для сдерживания избыточного тепла.

Например, включение режимов пониженного энергопотребления или понижение напряжения ЦП или ГП могут помочь предотвратить стресс от максимального использования, сохраняя при этом работоспособность вашего оборудования.

В любом случае, ваше основное внимание должно быть сосредоточено на контроле температуры и выполнении технического обслуживания, когда это необходимо.

Выводы

Следующие факторы могут сильно повлиять на то, насколько высока загрузка вашего графического процессора:

• Производительность графического процессора. Например, слабый iGPU может с трудом воспроизводить видео, и его использование достигнет 100%, в то время как мощный дискретный графический процессор не будет иметь никаких проблем при 10%.
• Рабочая нагрузка, которую вы выполняете. Например, игры будут нагружать ваш графический процессор больше, чем воспроизведение простого видео.
• Сколько рабочих нагрузок вы выполняете одновременно и в фоновом режиме. Например, наличие множества вкладок Chrome, открытых в фоновом режиме, может увеличить загрузку графического процессора, даже если вы не используете их активно.

Имея в виду вышеизложенное, вот краткий обзор типичного использования графического процессора для различных рабочих нагрузок:

• Бездействие (только что загруженная ОС Windows): 0-2%
• Общие продуктивные задачи (письмо, простой просмотр): 0-15%
• Воспроизведение видео: 15-35%
• Игры на ПК: 25-95%
• Графический дизайн / фоторедактирование, активные рабочие нагрузки (Photoshop, Illustrator): 15-55%
• Редактирование видео (активное): 15-55%
• Монтаж видео (рендеринг): 33-100%
• 3D-рендеринг (CUDA / OptiX): 33-100% (диспетчер Windows часто указывает данные неверно – используйте GPU-Z)

Как упоминалось выше, это должно дать вам представление о том, чего ожидать, и может сильно различаться в зависимости от типа используемого вами оборудования и конкретной рабочей нагрузки, которую вы выполняете.

Часто задаваемые вопросы

Какую температуру может выдержать видеокарта?

Со всеми этими разговорами об использовании графического процессора и высоких температурах, которые вредны для долговечности графического процессора, я не слишком много сказал о диапазонах температур, при которых вам следует беспокоиться.

В большинстве случаев я бы не слишком беспокоился о температуре вашего графического процессора, пока она не достигнет или не превысит около 95 градусов Цельсия при полной нагрузке.

При этом большинство графических процессоров созданы для работы на более высоком уровне их термальной устойчивости при полной загрузке и начнут снижать температуру, когда вы перегрузите его.

Тем не менее, это хороший знак для вашего графического процессора и остальной части вашего ПК, если вы можете поддерживать их рабочую температуру ниже рабочего диапазона 95 по Цельсию.

Лучший способ сделать это, помимо частого обслуживания, – это также обеспечить хороший воздушный поток внутри корпуса ПК.

Сокращает ли разгон срок службы видеокарты?

Если вы читали эту статью как потенциальный или действующий разгонщик графических процессоров, возможно, вас немного беспокоит долговременное состояние вашей видеокарты!

К счастью, вам не нужно слишком беспокоиться. Ваши шансы навсегда повредить графический процессор из-за неправильного разгона чрезвычайно малы, поскольку нестабильный разгон графического процессора просто приведёт к сбою всей системы, прежде чем он начнёт повреждаться при интенсивном использовании.

Разгон графического процессора и срок службы графического процессора зависит не только от того, стабилен он или нет, но стабильный разгон, как правило, не сильно сокращает срок службы графического процессора.

Это не означает, что совет, изложенный в статье выше, неприменим. Это применимо даже ещё больше, поскольку разогнанный графический процессор будет работать горячее и потреблять больше энергии, чем неразогнанный графический процессор.

Это делает вышеупомянутые регулярные усилия по техническому обслуживанию и очистке даже более важными, чем они были бы в противном случае, так что не ослабляйте их!

Как предотвратить тепловой троттлинг видеокарты?

Практически те же действия, что описаны в статье выше.

Правильное обслуживание вашей системы охлаждения должно предотвратить тепловой троттлинг любого оборудования.

Возможно, вам придётся использовать более жесткие решения со старыми графическими процессорами или графическими процессорами, у которых уже есть более серьёзные проблемы.

Какова хорошая температура видеокарты в режиме ожидания?

Наконец, со всеми этими разговорами об использовании графического процессора, температурах и тяжелых рабочих нагрузках… какой температуры следует ожидать от видеокарты, когда загрузка графического процессора низкая или он простаивает?

Ответ во многом зависит от температуры окружающей среды в вашей комнате. Однако, как правило, она определенно не должна быть сравнима с температурой графического процессора под нагрузкой, которая начинается примерно с 55 градусов по Цельсию.

У вас может быть более серьёзная проблема с охлаждением видеокарты (например, термопаста с истёкшим сроком годности), если ваши температуры в режиме ожидания настолько высоки.

9 Common Reasons Why GPU Utilization Spikes

Maximum GPU utilization becomes a problem when it causes your GPU to overheat or when you can’t explain the usage spikes that likely indicate something’s wrong.

If GPU overheating is left unaddressed, the durability and performance of your GPU will take a nosedive.

Below are 9 common reasons why GPU utilization spikes:

1. Malware
2. Background apps using too much GPU
3. Outdated or problematic drivers
4. Graphics-intensive software
5. Updates running in the background
6. High FPS settings in games
7. GPU overlays and instant replay features
8. Web browser activity
9. High-performance power plans

In this article, I’ll discuss the above reasons in more detail. I’ll also suggest ways to diagnose your GPU usage spikes and how to bring them down to normal levels.

1. Malware

Having malicious software (“malware”) on your computer can cause unexplained GPU usage spikes. Malware can affect your GPU in various ways.

For example, it can hide in GPU memory where standard anti-virus programs can’t detect it. From there, it can run and spike your GPU utilization.

Malware that can run from your GPU includes specially made keyloggers, rootkits, and trojans.

Some malware can use your GPU for intensive unauthorized tasks. For instance, malicious actors can use your GPU to mine bitcoin in the background, causing a significant spike in usage.

Dealing with GPU malware

When malware uses your computer’s GPU instead of the CPU, it’s less likely to be detected by antivirus software.

Still, GPU-based malware needs access to your CPU to operate. Fortunately, accessing the CPU leaves traces that host-security systems can detect.

Using high-quality security software can help you detect and deal with GPU malware.

On Windows, scanning your computer using the pre-installed Virus & Threat Protection feature can help you eliminate the malware.

You can also reduce the likelihood of your computer being infected with GPU malware by always turning on the following Windows Security protection features:

• Real-time protection.
• Tamper protection.

Additionally, you might be able to detect malicious apps by analyzing system resource usage on Windows Task Manager.

If you see any strange application using up a lot of GPU resources, you can disable it directly from Task Manager.

You can also use the Startup Applications tab to identify strange applications that launch whenever you start your computer.

Some of those applications may be disguised malware. Disabling them can help deal with your high GPU usage problem.

Of course, you should take care not to disable system tasks or tasks you use, such as processes that are part of your gaming applications.

2. Background apps using too much GPU

Sometimes, regular programs use up a huge chunk of GPU even though they’re not supposed to.

Only applications that perform graphics processing are supposed to run on the GPU. The GPU is a dedicated processor that accelerates graphics processing applications like gaming.

When normal apps use the dedicated GPU, they hog resources intended to improve graphics processing software, degrading their performance.

Examples of apps you could find running on your GPU include:

• Applock.exe
• Yourphone.exe

You can prevent an app from using the GPU through the app’s settings. If that’s not possible, you can use the Nvidia Control Panel instead.

If you experience high GPU utilization problems, the following process may help disable non-graphics processing apps from using the GPU:

1. Go to the Nvidia Control Panel.
2. Look for Manage 3D Settings.
3. Select Global Settings.
4. Change the Preferred Graphics Processor to Auto-select.
5. Select Apply before closing the Control Panel and reboot your computer.

Using Safe Mode to diagnose high GPU usage

Booting your device in safe mode can help you narrow down the cause of your GPU usage problem.

Safe mode only loads basic drivers and accesses limited files. If you run your computer in safe mode and your GPU usage problem disappears, you can be sure there’s a non-essential app causing the problem.

You can then boot your computer in normal mode and try to identify the culprit, which could be a program or driver.

If you’re using Windows 11 or 10, here’s an article from Microsoft on how to boot your computer in safe mode.

Resolving high GPU usage caused by Windows apps

Windows Stock Apps could be to blame if your GPU utilization is higher than it should be when your computer is idle. These apps don’t do any graphics processing and have no business using the GPU.

• Calculator.
• Calendar.
• Alarms and Clock.
• Mail.
• Settings.
• Skype.
• VLC media player.

These apps might run in the background and cause your GPU usage to shoot up.

With the Task Manager app, you can confirm whether stock apps are using up your GPU resources. If they are, closing them from the Task Manager should reduce GPU utilization.

However, there’s a chance you’ll find the same apps running in the background and hogging GPU resources when you start your computer again.

A more permanent solution would be to disable background apps from running on your device. To do this:

1. Open the Settings app.
2. Go to Privacy.
3. Select Background Apps.
4. Toggle the Let apps run in the background option to Off.

If you’re dependent on some Windows apps that run in the background, the above may not be a feasible solution for you.

In that case, you have to make do with disabling unwanted apps via Task Manager every time your GPU utilization goes above normal levels.

3. Outdated or problematic drivers

A driver is a software application that helps your computer hardware (such as the GPU) work with software (such as games or video-editing software).

An outdated driver could cause numerous issues (no pun intended), including GPU utilization spikes.

These issues can also arise when there are problems with driver installation, even when the driver is up to date.

Therefore, updating your monitor driver and other relevant drivers could boost your GPU performance. Reinstalling the drivers might also help.

A common culprit in GPU utilization issues is the graphics card driver. To reinstall this driver:

1. Search for your computer’s Device Manager and open it.
2. Go to the Display Adapters section.
3. Select either AMD or Nvidia.
4. Select Uninstall.
5. Restart your device.
6. Install the driver from either the AMD or Nvidia website.

If a problematic driver is the issue, your GPU usage should return to normal after updating or reinstalling it.

4. Graphics-intensive software

When running graphics-intensive software, your GPU utilization will probably max out.

When your GPU maxes out while running a graphics-intensive application, it means you’re getting the most out of your resources.

It also means the application is likely to perform at its peak.

You should only be concerned about maxing out GPU utilization if it causes overheating. As I’ve mentioned, overheating can reduce the lifespan of your GPU.

Ideally, your GPU’s temperature should not exceed 185°F (85°C). If you find your computer overheating when you’re using graphics-intensive software, it might be a good idea to invest in a cooling system that works with your specific computer.

5. Updates running in the background

A recent system or software update could also cause your unexplained GPU utilization spikes.

Updates to drivers or security software are often downloaded before being installed in background processes. This installation process could be lengthy and resource-intensive.

Once the updates start running in the background, they can also cause extra GPU utilization.

As with resource-intensive apps, if your computer tends to overheat after an update, investing in a cooler for your PC might be for the best.

6. High FPS settings in games

Some games are highly graphic-intensive. With these games, GPU utilization will always be at the maximum.

If you need to reduce GPU usage while playing resource-intensive games, your best bet is to lower the quality of the game.

The higher the frames per second (FPS) setting of a game, the smoother the visual experience during gameplay. At the same time, a higher FPS setting translates to higher GPU usage.

Reducing the special effects displayed in a game can reduce GPU usage. Having lower FPS settings will have the same effect.

You could also enable Vsync. Vsync limits the frame rate, so it doesn’t exceed your screen’s refresh rate. Limiting the frame rate will lower GPU utilization.

7. GPU Overlay and instant replay features

Enabling GPU overlay and instant replay in Nvidia and AMD can increase your GPU utilization.

The GPU overlay feature allows you to monitor performance metrics while playing a game. You can monitor parameters like CPU and GPU utilization without leaving the game. The feature displays a window that draws over your game.

Instant replay allows you to continuously record and store gameplay. It is handy if you want to review and share your game footage.

Both the overlay and auto replay features can contribute to high-GPU usage problems.

You can confirm that overlay and autoplay are increasing GPU usage by consulting Windows Task Manager.

If they are, under the GPU column in the Processes tab, you’ll see a high percentage of GPU use attributed to Radeon Settings Host Service or Nvidia Container.

You can reduce GPU utilization by disabling them.

To disable instant replay on Nvidia:

1. Launch the GeForce Experience app.
2. Under the General tab, open Settings.
3. Select the Disable Instant Replay button.

To disable instant replay and overlay on AMD:

1. Launch the Radeon Software Manager.
2. Under the General tab, disable the autoplay and in-game replay options.

Some of the overlay-related features you can disable to reduce GPU utilization include:

• Desktop capture.
• Instant GIF.
• Instant replay.
• Record desktop.
• Show indicator.
• Borderless region capture.

8. Web browser activity

Sometimes, high GPU usage may be due to web browsers. Modern web browsers come with the hardware acceleration feature.

When this feature is enabled, the GPU is used to speed up the browser. This feature comes enabled by default. Disabling hardware acceleration takes some of the load off your GPU.

But even without hardware acceleration, browsers still use the GPU, especially when handling any graphics-intensive process. However, GPU use is lower when hardware acceleration is disabled.

9. High-performance power plans

Your power plans also affect GPU utilization. Setting your power plan to High Performance delivers better performance at the expense of increased GPU use.

You can slightly reduce GPU utilization by choosing the Power Saver or Balanced power plans.

To change your power plan:

1. Launch the Control Panel app.
2. Go to Power Options.
3. Go to Change Plan Settings.
4. Choose your preferred power plan and save your changes.

What to do to deal with GPU utilization spikes

So far, I’ve covered the reasons why GPU utilization spikes. Usually, high GPU utilization results from an app using more GPU resources than it’s supposed to.

It could also be because an app that’s not supposed to be using GPU resources is using them. If you can find the offending app, you can solve your problem.

Below are some of the ways you can use to find or deal with apps hogging the GPU:

• Use the Nvidia Control Panel.
• Use Process Explorer to find the offending app.

Using the Nvidia Control Panel

If high GPU utilization is due to Windows apps, you can go one of two ways.

You can disable all background apps, which would disable the offending apps. But it would also disable other apps that you might find helpful, which could be inconvenient.

The other option is to use the Nvidia Control Panel to disable the offending apps.

1. Access the Nvidia Control Panel.
2. Go to Manage 3D Settings.
3. Add the Windows Apps that were hogging GPU resources.
4. Change the Power Management Mode of the apps you’ve added to Adaptive.

Using Process Explorer to find the offending app

It can be challenging to pinpoint the specific app-hogging GPU resources. Microsoft’s process explorer app can help you find the software running a certain process.

You can then disable or uninstall that software to prevent it from causing GPU usage spikes.

1. Download Process Explorer.
2. Install and run Process Explorer.
3. On the View tab, select Columns and then GPU.
4. Check the boxes corresponding with GPU usage parameters you’d like to monitor. For example, select GPU Committed Bytes and GPU Usage.

Following the above steps should reveal the app hogging your GPU. Better still, it’ll show you where it’s located.

You can then find and delete the app, likely solving your GPU utilization issues.

Conclusion

GPU utilization spikes can cause your computer to run slowly and even crash.

I provided some ways to diagnose your GPU usage spikes and how to bring them down to normal levels, and hopefully, you found something that worked for you.

And it’s also my hope that you now have a better understanding of what causes these spikes and how to fix them.

Marlo has always been obsessed with computers his whole life. After working for 25 years in the computer and electronics field, he now enjoys writing about computers to help others. Most of his time is spent in front of his computer or other technology to continue to learn more. Read more about Marlo