【scipy 基礎】--最優化

来源:https://www.cnblogs.com/wang_yb/archive/2023/11/18/17840165.html
-Advertisement-
Play Games

SciPy庫的optimize模塊主要用於執行各種優化任務。優化是尋找特定函數的最小值或最大值的過程,通常用於機器學習、數據分析、工程和其他領域。 scipy.optimize提供了多種優化演算法,包括梯度下降法、牛頓法、最小二乘法等,可以解決各種複雜的優化問題。該模塊還包含一些特定的函數,用於解決某 ...


SciPy庫的optimize模塊主要用於執行各種優化任務。
優化是尋找特定函數的最小值或最大值的過程,通常用於機器學習、數據分析、工程和其他領域。

scipy.optimize提供了多種優化演算法,包括梯度下降法、牛頓法、最小二乘法等,可以解決各種複雜的優化問題。
該模塊還包含一些特定的函數,用於解決某些特定類型的優化問題,如多維非線性優化、約束優化、最小二乘問題等。
此外,scipy.optimize還提供了一些工具,如多線程支持、邊界條件處理、數值穩定性措施等,以提高優化的效率和準確性。

1. 主要功能

最優化是數學學科中的一個重要研究領域,optimize模塊包含的各類函數能夠幫助我們節省大量的計算時間和精力。

類別 說明
優化 包含標量函數優化,局部優化,全局優化等各類方法
最小二乘法和曲線擬合 包含求解最小二乘法問題,各種擬合曲線的方法
求根 包含多種求根的方法,比如布倫特方法,牛頓-拉夫森方法等10來種求根方法
線性規劃 內置多種線性規划算法以及混合整數線性規劃計算等
分配問題 解決線性和分配問題,包括二次分配和圖匹配問題的近似解等
工具函數 包含一些通用的計算方法,比如有限差分近似,海森近似,線搜索等計算函數
遺留函數 即將被淘汰的一些函數,不建議再繼續使用

下麵通過曲線擬合非線性方程組求解兩個示例演示optimize模塊的使用。

2. 曲線擬合示例

所謂曲線擬合,其實就是找到一個函數,能夠儘可能的經過或接近一系列離散的點。
然後就可以用這個函數來預測離散點的變化趨勢。

2.1. 最小二乘法

optimize模塊的最小二乘法擬合曲線需要定義一個目標函數和一個殘差函數
最小二乘法通過迭代尋找目標函數中參數的最優值,
殘差函數是用來計算目標函數的返回值實際值之間的誤差的。

首先,載入需要擬合的離散數據。

import pandas as pd

data = pd.read_csv("d:/share/data/A0A01.csv")
data = data[data["zb"] == "A0A0101"]
data = data.sort_values("sj")
data.head()

image.png
數據來源:https://databook.top/nation/A0A (其中的A0A01.csv

然後,依據其中1978年~2022年居民人均可支配收入繪製散點圖。

from matplotlib.ticker import MultipleLocator
import matplotlib.pyplot as plt

ax = plt.subplot()
ax.scatter(data["sjCN"], data["value"], marker='*', color='r')
ax.xaxis.set_major_locator(MultipleLocator(4))
ax.set_title("居民人均可支配收入(元)")

plt.xticks(rotation=45)
plt.show()

image.png

最後,用optimize模塊提供的最小二乘法擬合居民人均可支配收入的變化曲線。

from scipy.optimize import least_squares

# 目標函數
def target_func(p, x):
    return p[0]*np.exp(p[1]*x) + p[2]

# 殘差函數
def residual(p, x, dy):
    return target_func(p, x) - dy

p0 = [1, 1, 0]
x = range(len(data))
y = data["value"]
# 最小二乘法迭代目標函數的參數
result = least_squares(residual, p0, args=(x, y))

ax = plt.subplot()
ax.xaxis.set_major_locator(MultipleLocator(4))
ax.set_title("居民人均可支配收入(元)")

ax.scatter(data["sjCN"], data["value"], marker='*', color='r')
# 這裡的result.x就是迭代後的最優參數
ax.plot(x, target_func(result.x, x), color='g')

plt.xticks(rotation=45)
plt.show()

image.png
圖中綠色的曲線就是擬合的曲線,根據擬合出的曲線和目標函數,
就可以預測以後的居民人均可支配收入的變化情況。

2.2. curve_fit方法

最小二乘法需要定義目標函數殘差函數,使用起來有些繁瑣,optimize模塊中還提供了一個curve_fit函數。
可以簡化曲線擬合的過程。

from scipy.optimize import curve_fit

# 目標函數
def curve_fit_func(x, p0, p1, p2):
    return p0*np.exp(p1*x) + p2

# fitp 就是計算出的目標函數的最優參數
fitp, _ = curve_fit(curve_fit_func, x, y, [1, 1, 0])

ax = plt.subplot()
ax.xaxis.set_major_locator(MultipleLocator(4))
ax.set_title("居民人均可支配收入(元)")

ax.scatter(data["sjCN"], data["value"], marker='*', color='r')
ax.plot(x, curve_fit_func(x, *fitp), color='b')

plt.xticks(rotation=45)
plt.show()

image.png
藍色的線就是擬合曲線,擬合結果和使用最小二乘法擬合出的是一樣的,只是代碼可以簡化一些。

3. 非線性方程組求解示例

眾所周知,手工求解非線性方程是非常困難的,如果經常遇到求解非線性方程的情況,optimize模塊絕對能成為你的一個稱手工具。

3.1. 非線性方程

使用optimize模塊求解非線性方程非常簡單。
比如方程:\(2^x+sin(x)-x^3=0\)

from scipy.optimize import root

f = lambda x: 2**x + np.sin(x) - x**3

result = root(f, [1, 1], method='hybr') 

# result.x 是方程的解
result.x
# 運行結果:
array([1.58829918, 1.58829918])

實際使用時,將變數f對應的方程換成你的方程即可。
註意,求解方程的 root 方法的參數method,這個參數支持多種求解方程的方法,可以根據方程的特點選擇不同的method

支持的method列表可參考官方文檔:https://docs.scipy.org/doc/scipy/reference/optimize.html#multidimensional

3.2. 非線性方程組

對於方程組,求解的方法如下:
比如方程組:\(\begin{cases} \begin{align*} x^2 +y-3 & =0 \\ (x-2)^2+y-1 & =0 \end{align*} \end{cases}\)

fs = lambda x: np.array(
    [
        x[0] ** 2 + x[1] - 3,
        (x[0] - 2) ** 2 + x[1] - 1,
    ]
)

result = root(fs, [1, 1], method="hybr")
result.x
# 運行結果:
array([1.5 , 0.75])

方程組中方程個數多的話,直接添加到變數fs的數組中即可。

4. 總結

總的來說,scipy.optimize是一個強大且易用的優化工具箱,用於解決各種複雜的優化問題。
它對於需要優化演算法的許多科學和工程領域都具有重要價值。
通過使用這個模塊,用戶可以節省大量時間和精力,同時還能保證優化的質量和準確性。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • trait是什麼? Rust中的trait是一種定義可被多種類型實現的共用行為的方式。它類似於Java或C#中的介面。通過trait,你可以定義一組方法簽名(有時包括預設實現),不同的類型可以實現這些方法。這有助於抽象通用功能並確保不同類型間一定程度的一致性。 當一個類型實現了一個trait,它承諾 ...
  • 要知道經典類和新式類的區別,首先要掌握類的繼承 類的繼承的一個優點就是減少代碼冗餘 廣度優先和深度優先,這主要是在多類繼承的時候會使用到 經典類和新式類的主要區別就是類的繼承的方式 經典類遵循深度優先的規則,新式類遵循廣度優先的規則。 至於什麼是深度優先什麼是廣度優先,可以看如下示例: class ...
  • 1.輸入日期,判斷這一天是這一年的第幾天 import datetime def day_of_year(): year = eval(input('請輸入年份:')) month = eval(input('請輸入月份:')) day = eval(input('請輸入天:')) date1 = ...
  • 最近天氣降溫厲害,咱們用Python來分析一下空氣質量如何~ 話不多說,我們直接開始上手。 環境以及模塊 環境使用 Python 3.8 Pycharm nodejs 模塊使用 import requests import execjs import json requests和execjs 都是第 ...
  • Windows Management Instrumentation(WMI)是一種用於管理和監視`Windows`操作系統的框架。它為開發人員、系統管理員和自動化工具提供了一種標準的介面,通過這個介面,可以獲取有關電腦系統硬體、操作系統和應用程式的信息,以及對系統進行管理和控制的能力。WQL 的... ...
  • 在 Go 語言中,panic、recover 和 defer 是用於處理異常情況的關鍵字。它們通常一起使用來實現對程式錯誤的處理和恢復。 1. defer 語句 defer 用於在函數返回之前執行一段代碼。被 defer 修飾的語句或函數會在包含 defer 的函數執行完畢後執行。defer 常用於 ...
  • 建議看看電腦科學速成課,一門很全面的電腦原理入門課程,短短10分鐘可以把大學老師十幾節課講的東西講清楚!整個系列一共41個視頻,B站上有中文字幕版。 每個視頻都是一個特定的主題,例如軟體工程、人工智慧、操作系統等,主題之間都是緊密相連的,比國內很多大學電腦課程強太多! 這門課程通過生動形象的講 ...
  • ✨前言✨ 本片文章,主要在於C#連接MySQL資料庫,由於這之間無法建立直接聯繫,這時候就涉及到了第三方連接工具.NET,以此來建立C#與MySQL資料庫的連接 🍒歡迎點贊 👍 收藏 ⭐留言評論 📝私信必回喲😁 🍒博主將持續更新學習記錄收穫,友友們有任何問題可以在評論區留言 目錄🍊 一, ...
一周排行
    -Advertisement-
    Play Games
  • PasteSpider是什麼? 一款使用.net編寫的開源的Linux容器部署助手,支持一鍵發佈,平滑升級,自動伸縮, Key-Value配置,項目網關,環境隔離,運行報表,差量升級,私有倉庫,集群部署,版本管理等! 30分鐘上手,讓開發也可以很容易的學會在linux上部署你得項目! [從需求角度介 ...
  • SQLSugar是什麼 **1. 輕量級ORM框架,專為.NET CORE開發人員設計,它提供了簡單、高效的方式來處理資料庫操作,使開發人員能夠更輕鬆地與資料庫進行交互 2. 簡化資料庫操作和數據訪問,允許開發人員在C#代碼中直接操作資料庫,而不需要編寫複雜的SQL語句 3. 支持多種資料庫,包括但 ...
  • 在C#中,經常會有一些耗時較長的CPU密集型運算,因為如果直接在UI線程執行這樣的運算就會出現UI不響應的問題。解決這類問題的主要途徑是使用多線程,啟動一個後臺線程,把運算操作放在這個後臺線程中完成。但是原生介面的線程操作有一些難度,如果要更進一步的去完成線程間的通訊就會難上加難。 因此,.NET類 ...
  • 一:背景 1. 講故事 前些天有位朋友在微信上丟了一個崩潰的dump給我,讓我幫忙看下為什麼出現了崩潰,在 Windows 的事件查看器上顯示的是經典的 訪問違例 ,即 c0000005 錯誤碼,不管怎麼說有dump就可以上windbg開幹了。 二:WinDbg 分析 1. 程式為誰崩潰了 在 Wi ...
  • CSharpe中的IO+NPOI+序列化 文件文件夾操作 學習一下常見的文件、文件夾的操作。 什麼是IO流? I:就是input O:就是output,故稱:輸入輸出流 將數據讀入記憶體或者記憶體輸出的過程。 常見的IO流操作,一般說的是[記憶體]與[磁碟]之間的輸入輸出。 作用 持久化數據,保證數據不再 ...
  • C#.NET與JAVA互通之MD5哈希V2024 配套視頻: 要點: 1.計算MD5時,SDK自帶的計算哈希(ComputeHash)方法,輸入輸出參數都是byte數組。就涉及到字元串轉byte數組轉換時,編碼選擇的問題。 2.輸入參數,字元串轉byte數組時,編碼雙方要統一,一般為:UTF-8。 ...
  • CodeWF.EventBus,一款靈活的事件匯流排庫,實現模塊間解耦通信。支持多種.NET項目類型,如WPF、WinForms、ASP.NET Core等。採用簡潔設計,輕鬆實現事件的發佈與訂閱。通過有序的消息處理,確保事件得到妥善處理。簡化您的代碼,提升系統可維護性。 ...
  • 一、基本的.NET框架概念 .NET框架是一個由微軟開發的軟體開發平臺,它提供了一個運行時環境(CLR - Common Language Runtime)和一套豐富的類庫(FCL - Framework Class Library)。CLR負責管理代碼的執行,而FCL則提供了大量預先編寫好的代碼, ...
  • 本章將和大家分享在ASP.NET Core中如何使用高級客戶端NEST來操作我們的Elasticsearch。 NEST是一個高級別的Elasticsearch .NET客戶端,它仍然非常接近原始Elasticsearch API的映射。所有的請求和響應都是通過類型來暴露的,這使得它非常適合快速上手 ...
  • 參考delphi的代碼更改為C# Delphi 檢測密碼強度 規則(仿 google) 仿 google 評分規則 一、密碼長度: 5 分: 小於等於 4 個字元 10 分: 5 到 7 字元 25 分: 大於等於 8 個字元 二、字母: 0 分: 沒有字母 10 分: 全都是小(大)寫字母 20 ...