如何使 Python 程序快如閃電？這里有妙招

本文作者： skura

2020-02-03 13:39

導語：附詳細代碼

討厭 Python 的人總是說，他們不想使用 Python 的原因之一是它的速度太慢。好吧，不管使用哪種編程語言，具體的程序是快還是慢，在很大程度上取決于編寫程序的開發人員以及他們編寫優化、快速程序的能力。

所以，讓我們來證明那些人是錯的——讓我們看看如何提高 Python 程序的性能并使它們變得非常快！

時間和性能

在開始優化任何代碼之前，我們首先需要找出代碼的哪些部會減慢整個程序的速度。有時，程序的瓶頸可能很明顯，但如果你不知道它在哪里，那么你可以從下面幾個地方找到它：

注意：這是我用于演示的程序，它將 e 計算為 X 的冪（取自 Python 文檔）：

# slow_program.py
from decimal import *

def exp(x):
    getcontext().prec += 2
    i, lasts, s, fact, num = 0, 0, 1, 1, 1
    while s != lasts:
        lasts = s
        i += 1
        fact *= i
        num *= x
        s += num / fact
    getcontext().prec -= 2
    return +s

exp(Decimal(150))
exp(Decimal(400))
exp(Decimal(3000))

最懶的「剖析」

首先，最簡單、最懶的解決方案——Unix time 命令：

~ $ time python3.8 slow_program.py

real 0m11,058s
user 0m11,050s
sys 0m0,008s

如果你只想給你的整個程序計時，這是可行的，但這通常是不夠的。

最詳細的分析

另一個是 cProfile，它會給你提供特別多的信息：

~ $ python3.8 -m cProfile -s time slow_program.py
         1297 function calls (1272 primitive calls) in 11.081 seconds

   Ordered by: internal time

   ncalls tottime percall cumtime percall filename:lineno(function)
        3   11.079    3.693   11.079    3.693 slow_program.py:4(exp)
        1    0.000    0.000    0.002    0.002 {built-in method _imp.create_dynamic}
      4/1    0.000    0.000   11.081   11.081 {built-in method builtins.exec}
        6    0.000    0.000    0.000    0.000 {built-in method __new__ of type object at 0x9d12c0}
        6    0.000    0.000    0.000    0.000 abc.py:132(__new__)
       23    0.000    0.000    0.000    0.000 _weakrefset.py:36(__init__)
      245    0.000    0.000    0.000    0.000 {built-in method builtins.getattr}
        2    0.000    0.000    0.000    0.000 {built-in method marshal.loads}
       10    0.000    0.000    0.000    0.000 <frozen importlib._bootstrap_external>:1233(find_spec)
      8/4    0.000    0.000    0.000    0.000 abc.py:196(__subclasscheck__)
       15    0.000    0.000    0.000    0.000 {built-in method posix.stat}
        6    0.000    0.000    0.000    0.000 {built-in method builtins.__build_class__}
        1    0.000    0.000    0.000    0.000 __init__.py:357(namedtuple)
       48    0.000    0.000    0.000    0.000 <frozen importlib._bootstrap_external>:57(_path_join)
       48    0.000    0.000    0.000    0.000 <frozen importlib._bootstrap_external>:59(<listcomp>)
        1    0.000    0.000   11.081   11.081 slow_program.py:1(<module>)
...

在這里，我們使用 cProfile 模塊和 time 參數運行測試腳本，以便按內部時間（cumtime）對行進行排序。這給了我們很多信息，你可以看到上面的行大約是實際輸出的 10%。由此我們可以看出 exp 函數是罪魁禍首（是不是感到很驚奇？），現在我們可以更具體地了解時間和分析了！

特定函數計時

既然我們知道該將注意力集中在哪里，我們可能希望對慢函數進行計時，而不測量代碼的其余部分。為此，我們可以使用簡單的 decorator：

def timeit_wrapper(func):
    @wraps(func)
    def wrapper(*args, **kwargs):
        start = time.perf_counter() # Alternatively, you can use time.process_time()
        func_return_val = func(*args, **kwargs)
        end = time.perf_counter()
        print('{0:<10}.{1:<8} : {2:<8}'.format(func.__module__, func.__name__, end - start))
        return func_return_val
    return wrapper

這個 decorator 隨后可以應用于測試中的函數，如下所示：

@timeit_wrapper
def exp(x):
...
print('{0:<10} {1:<8} {2:^8}'.format('module', 'function', 'time'))
exp(Decimal(150))
exp(Decimal(400))
exp(Decimal(3000))

其輸出如下：

~ $ python3.8 slow_program.py
module     function   time
__main__ .exp      : 0.003267502994276583
__main__ .exp      : 0.038535295985639095
__main__ .exp      : 11.728486061969306

這里要考慮的一件事是，我們實際想要測量的是什么樣的時間。時間包提供 time.perf_counter 和 time.process_time。這里的區別在于 perf_counter 返回絕對值，其中包括 Python 程序進程未運行的時間，因此它可能會受到機器負載的影響。另一方面，process_time 只返回用戶時間（不包括系統時間），這只是進程的時間。

使程序更快

現在，有趣的是。讓我們讓你的 Python 程序運行得更快。我基本上不會向你展示一些能夠神奇地解決性能問題的技巧和代碼片段。這更多的是關于一般的想法和策略，當你使用這些策略時，它們可以對性能產生巨大的影響，在某些情況下甚至可以提高 30% 的速度。

使用內置數據類型

這一點很明顯。內置數據類型非?？?，特別是與我們的自定義類型（如樹或鏈列表）相比。這主要是因為內置代碼是用 C 語言實現的，在用 Python 編寫代碼時，我們在速度上無法與之相比。

使用 lru 緩存的緩存/備忘錄

我已經在之前的博文（https://martinheinz.dev/blog/4）中寫過這個，但是我認為有必要用一個簡單的例子來重復一下：

import functools
import time

# caching up to 12 different results
@functools.lru_cache(maxsize=12)
def slow_func(x):
time.sleep(2) # Simulate long computation
return x

slow_func(1) # ... waiting for 2 sec before getting result
slow_func(1) # already cached - result returned instantaneously!

slow_func(3) # ... waiting for 2 sec before getting result

上面的函數使用 time.sleep 模擬繁重的計算。當第一次使用參數 1 調用時，它等待 2 秒，然后才返回結果。再次調用時，結果已被緩存，因此它跳過函數體并立即返回結果。更多例子，請看之前的博文：https://martinheinz.dev/blog/4 。

使用局部變量

這與在每個范圍內查找變量的速度有關。我編寫每個作用域，因為它不僅僅和局部變量和全局變量的使用有關。實際上，在函數中的局部變量、類級屬性和全局之間的查找速度也存在差異。

你可以通過使用看起來不必要的任務來提高性能，比如：

# Example #1
class FastClass:

    def do_stuff(self):
        temp = self.value # this speeds up lookup in loop
        for i in range(10000):
            ... # Do something with `temp` here

# Example #2
import random

def fast_function():
    r = random.random
    for i in range(10000):
        print(r()) # calling `r()` here, is faster than global random.random()

使用函數

這似乎有悖常理，因為調用函數會把更多的東西放到堆棧中，并從函數返回中產生開銷，但這與前面的觀點有關。如果只將所有的代碼放在一個文件中而不將其放在函數中，由于全局變量，程序會變慢很多。因此，只需將整個代碼包裝在 main 函數中并調用一次，就可以加快代碼的速度，如下所示：

def main():
... # All your previously global code

main()

不訪問屬性

另一個可能會減慢程序速度的是點運算符（.），它在訪問對象屬性時使用。此運算符使用 getattribute 觸發字典查找，這會在代碼中產生額外的開銷。那么，我們如何才能真正避免使用它呢？

# Slow:
import re

def slow_func():
    for i in range(10000):
        re.findall(regex, line) # Slow!

# Fast:
from re import findall

def fast_func():
    for i in range(10000):
        findall(regex, line) # Faster!

小心字符串

在循環中使用例如 module（%s）或 .format（）運行時，對字符串的操作可能會非常慢。我們還有什么更好的選擇？根據 Raymond Hettinger 最近的推文（https://twitter.com/raymondh/status/1205969258800275456），我們唯一應該使用的是 f-string，它是最可讀、最簡潔、最快的方法。因此，根據這條推文，這是你可以使用的方法——從最快到最慢：