Alglib 求解函數最小值

来源:https://www.cnblogs.com/tangtangde12580/archive/2022/09/29/16738625.html
-Advertisement-
Play Games

ALglib 是一個跨平臺的數值分析和數據處理庫。它支持多種編程語言(C + + 、 C # 、 Delphi)和多種操作系統(Windows 和 POSIX,包括 Linux)。 ALglib 功能包括: 數據分析(分類/回歸,統計學) 優化和非線性解法 插值和線性/非線性最小二乘擬合 線性代數( ...


ALglib 是一個跨平臺的數值分析和數據處理庫。它支持多種編程語言(C + + 、 C # 、 Delphi)和多種操作系統(Windows 和 POSIX,包括 Linux)。

ALglib 功能包括:

  • 數據分析(分類/回歸,統計學)
  • 優化和非線性解法
  • 插值和線性/非線性最小二乘擬合
  • 線性代數(直接演算法,EVD/SVD) ,直接和迭代線性解法
  • 快速傅里葉變換和許多其他演算法

ALglib 官方網站:https://www.alglib.net/
ALglib 開發者手冊:https://www.alglib.net/docs.php   手冊內有詳細的示例可以參考。C#文檔點擊官方文檔manual.csharp.html查閱。

以下用C#實現的函數最小值做說明。

public static void  function1_fvec(double[] x, double[] fi, object obj)
{
    //
    // this callback calculates
    // f0(x0,x1) = 100*(x0+3)^4,
    // f1(x0,x1) = (x1-3)^4
    //
    fi[0] = 10*System.Math.Pow(x[0]+3,2);
    fi[1] = System.Math.Pow(x[1]-3,2);
}
public static int Main(string[] args)
{
    //
    // This example demonstrates minimization of F(x0,x1) = f0^2+f1^2, where 
    //
    //     f0(x0,x1) = 10*(x0+3)^2
    //     f1(x0,x1) = (x1-3)^2
    //
    // with boundary constraints
    //
    //     -1 <= x0 <= +1
    //     -1 <= x1 <= +1
    //
    // using "V" mode of the Levenberg-Marquardt optimizer.
    //
    // Optimization algorithm uses:
    // * function vector f[] = {f1,f2}
    //
    // No other information (Jacobian, gradient, etc.) is needed.
    //
    double[] x = new double[]{0,0};
    double[] s = new double[]{1,1};
    double[] bndl = new double[]{-1,-1};
    double[] bndu = new double[]{+1,+1};
    double epsx = 0.0000000001;
    int maxits = 0;
    alglib.minlmstate state;

    //
    // Create optimizer, tell it to:
    // * use numerical differentiation with step equal to 1.0
    // * use unit scale for all variables (s is a unit vector)
    // * stop after short enough step (less than epsx)
    // * set box constraints
    //
    alglib.minlmcreatev(2, x, 0.0001, out state);
    alglib.minlmsetbc(state, bndl, bndu);
    alglib.minlmsetcond(state, epsx, maxits);
    alglib.minlmsetscale(state, s);

    //
    // Optimize
    //
    alglib.minlmoptimize(state, function1_fvec, null, null);

    //
    // Test optimization results
    //
    // NOTE: because we use numerical differentiation, we do not
    //       verify Jacobian correctness - it is always "correct".
    //       However, if you switch to analytic gradient, consider
    //       checking it with OptGuard (see other examples).
    //
    alglib.minlmreport rep;
    alglib.minlmresults(state, out x, out rep);
    System.Console.WriteLine("{0}", alglib.ap.format(x,2)); // EXPECTED: [-1,+1]
    System.Console.ReadLine();
    return 0;
}
官方示例 minlm_d_vb example

此演算法計算出給定x1,x2,x3...範圍內函數f(x1),f(x2),f(x3)...的平方和最小時的x1,x2,x3...數值。以下介面函數存在多個重載,以其中一個記錄說明

1、介面函數minlmcreatev,創建優化器。存在兩個重載,示例用的alglib.minlmcreatev( int m, double[] x, double diffstep, out minlmstate state, alglib.xparams _params =alglib.xdefault),可參考以下另一個重載的說明。

/// <summary>
/// 創建優化器
/// </summary>
/// <param name="n">x數量</param>
/// <param name="m">f[i] 數量</param>

/// <param name="x">實例化的x數組,用於最終結果輸出</param>
/// <param name="diffstep">微分步長 (值>0)</param>
/// <param name="state">存儲演算法狀態的結構</param>
/// <param name="_params"></param>

static void alglib.minlmcreatev(int n,int m, double[] x,double diffstep,out minlmstate state,alglib.xparams _params = alglib.xdefault)

2、介面函數minlmsetbc,為LM優化器設置邊界約束

/// <summary>
/// 為LM優化器設置x驗證值邊界約束
/// </summary>
/// <param name="state">存儲演算法狀態的結構</param>
/// <param name="bndl">x1,x2,x3...設置的最小值組合</param>
/// <param name="bndu">x1,x2,x3...設置的最大值組合</param>
/// <param name="_params"></param>
public static void alglib.minlmsetbc(minlmstate state, double[] bndl, double[] bndu, alglib.xparams _params = alglib.xdefault);

 3、介面函數minlmsetcond,設置LM優化演算法的停止條件

/// <summary>
/// 設置LM優化演算法的停止條件
/// </summary>
/// <param name="state">存儲演算法狀態的結構</param>
/// <param name="epsx">如果在 k + 1次迭代中滿足條件 | v | < = EpsX,則子常式完成其工作,其中:

* | 。| 表示歐氏範數

* v-刻度步進向量,v [ i ] = dx [ i ]/s [ i ]

* dx-ste 向量,dx = X (k + 1)-X (k)

* s-刻度繫數由 MinLMSetScale ()設置推薦值: 1E-9... 1E-12。</param>
/// <param name="maxits">最大迭代次數。如果 MaxIt = 0,則迭代次數是無限的。</param>
/// <param name="_params"></param>
public static void alglib.minlmsetcond(minlmstate state, double epsx, int maxits, alglib.xparams _params = alglib.xdefault);

4、介面函數minlmsetscale,設置 LM 優化器的比例繫數。

/// <summary>
/// 設置 LM 優化器的比例繫數。
/// </summary>
/// <param name="state">存儲演算法狀態的結構</param>
/// <param name="s">對應x個數的數組,非零尺度繫數</param>
/// <param name="_params"></param>
public static void alglib.minlmsetscale(minlmstate state, double[] s, alglib.xparams _params = alglib.xdefault);

5、介面函數minlmoptimize,啟動非線性優化器的迭代。fvec為包含多個f[i]的函數實現。以上示例迭代效果可參考底下的運行日誌圖片

/// <summary>
/// 啟動非線性優化器的迭代。
/// </summary>
/// <param name="state">存儲演算法狀態的結構</param>
/// <param name="fvec">迭代的函數族</param>
/// <param name="rep">每次迭代後調用的可選回調,可以為 NULL</param>
/// <param name="obj">外部傳入的參數值,可用於函數計算</param>
public static void minlmoptimize(minlmstate state, ndimensional_fvec fvec, ndimensional_rep rep, object obj);

6、介面函數minlmresults,萊文伯格-馬誇特演算法結果,得到最終計算的x數組結果,獲取opt結果報告

/// <summary>
/// 獲取演算法結果
/// </summary>
/// <param name="state">存儲演算法狀態的結構</param>
/// <param name="x">最終計算的x數組結果</param>
/// <param name="rep">opt結果報告</param>
/// <param name="_params"></param>
public static void alglib.minlmresults(minlmstate state, out double[] x, out minlmreport rep, alglib.xparams _params = alglib.xdefault);

示例中用到了兩個函數

   fi[0] = 10*(x[0]+3)^2;
    fi[1] = (x[1]-3)^2;

求解f[x0,x1] = fi[0]^2 + fi[1]^2 = 100*(x[0] + 3)^4 + (x[1] - 3)^4 的最小值。按數學計算可知,在整個域中,當x[0] = -3,x[1] = 3,時函數值最小,為0。

修改x數組最小最大邊界值,設置大於[-3,3]:

  double[] bndl = new double[]{-10,-10};
    double[] bndu = new double[]{+10,+10};

以下為函數迭代記錄

 

迭代131次後,計算出結果x0=-3,x1=3;計算結束。

 補充說明:演算法可結合最小二乘法。最小二乘法(又稱最小平方法)是一種數學優化技術。它通過最小化誤差的平方和尋找數據的最佳函數匹配。利用最小二乘法可以簡便地求得未知的數據,並使得這些求得的數據與實際數據之間誤差的平方和為最小。最小二乘法還可用於曲線擬合。其他一些優化問題也可通過最小化能量或最大化熵用最小二乘法來表達。求取誤差值最小時的一組參數值。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 近期在處理一個將NVR錄像機上的錄像下載到伺服器並通過瀏覽器播放的需求。 梳理記錄下過程,做個備忘,同時遇到的一些細節問題解決,也供需要的同學參考。 需求比較簡單,就是把指定時間段的錄像上傳到伺服器保存,並且允許用戶通過web頁面web瀏覽器,進行播放, 並且可以拖動控制播放進度。效果如。 一、 視 ...
  • Python常用的英語單詞就那麼幾個,多打就熟悉了 說來好笑,我壓根就沒記英語單詞… 真的就是純靠多打多練, 畢竟打多了之後肌肉記憶就在那裡了 下麵就給大家帶來常用python清單彙總~ 一、互動式環境與print輸出(https://jq.qq.com/?_wv=1027&k=2Q3YTfym) ...
  • 一、線程的概念線程是CPU分配資源的基本單位。當一程式開始運行,這個程式就變成了一個進程,而一個進程相當於一個或者多個線程。當沒有多線程編程時,一個進程相當於一個主線程;當有多線程編程時,一個進程包含多個線程(含主線程)。使用線程可以實現程式大的開發。 多個線程可以在同一個程式中運行,並且每一個線程 ...
  • 一、整型數據類型 1、整型數據類型名稱及關鍵詞 2、為什麼要定義不同的整型類型? 因為不同的數據類型所占用的記憶體大小是不同的,他們可表示的數據範圍也是不同的。那麼char,short,int,long,long long,分別占用幾個位元組?具體的數值範圍又是多少?C語言並未規定數據類型的大小範圍,具 ...
  • 在上一篇文章`《驅動開發:內核字元串轉換方法》`中簡單介紹了內核是如何使用字元串以及字元串之間的轉換方法,本章將繼續探索字元串的拷貝與比較,與應用層不同內核字元串拷貝與比較也需要使用內核專用的API函數,字元串的拷貝往往伴隨有內核記憶體分配,我們將首先簡單介紹內核如何分配堆空間,然後再以此為契機簡介字... ...
  • 一、什麼是AOP AOP為Aspect Oriented Programming的縮寫,意為:面向切麵編程,通過預編譯方式和運行期間動態代理實現程式功能的統一維護的一種技術。AOP是OOP的延續,是軟體開發中的一個熱點,也是Spring框架中的一個重要內容,是函數式編程的一種衍生範型。利用AOP可以 ...
  • 我們可以通過使用Win32Api來製作一些強大的功能,本文將通過示例代碼來介紹使用Win32Api來之做桌面視窗停靠功能; 效果圖: 一.通過Nuget 引入 Vanara.PInvoke.Shell32 和 PInvoke.User32 這兩個庫。 二.功能列表 1.Berth 函數,將視窗停靠在 ...
  • 分散式唯一ID,顧名思義,是指在全世界任何一臺電腦上都不會重覆的唯一Id。 在單機/單伺服器/單資料庫的小型應用中,不需要用到這類東西。但在高併發、海量數據、大型分散式應用中,這類卻是構建整個系統的最核心一環。 設想一下如下場景: 在某個大型電商系統A中,“訂單”這類大數據(比如,每天產生1500 ...
一周排行
    -Advertisement-
    Play Games
  • 經常看到有群友調侃“為什麼搞Java的總在學習JVM調優?那是因為Java爛!我們.NET就不需要搞這些!”真的是這樣嗎?今天我就用一個案例來分析一下。 昨天,一位學生問了我一個問題:他建了一個預設的ASP.NET Core Web API的項目,也就是那個WeatherForecast的預設項目模 ...
  • 很多軟體工程師都認為MD5是一種加密演算法,然而這種觀點是不對的。作為一個 1992 年第一次被公開的演算法,到今天為止已經被髮現了一些致命的漏洞。本文討論MD5在密碼保存方面的一些問題。 ...
  • Maven可以使我們在構建項目時需要用到很多第三方類jar包,如下一些常用jar包 而maven的出現可以讓我們避免手動導入jar包出現的某些問題,它可以自動下載那須所需要的jar包 我們只需要在創建的maven項目自動生成的pom.xml中輸入如下代碼 <dependencies> <!--ser ...
  • 來源:https://developer.aliyun.com/article/694020 非同步調用幾乎是處理高併發Web應用性能問題的萬金油,那麼什麼是“非同步調用”? “非同步調用”對應的是“同步調用”,同步調用指程式按照定義順序依次執行,每一行程式都必須等待上一行程式執行完成之後才能執行;非同步調 ...
  • 1.面向對象 面向對象編程是在面向過程編程的基礎上發展來的,它比面向過程編程具有更強的靈活性和擴展性,所以可以先瞭解下什麼是面向過程編程: 面向過程編程的核心是過程,就是分析出實現需求所需要的步驟,通過函數一步一步實現這些步驟,接著依次調用即可,再簡單理解就是程式 從上到下一步步執行,從頭到尾的解決 ...
  • 10瓶毒藥其中只有一瓶有毒至少需要幾隻老鼠可以找到有毒的那瓶 身似浮雲,心如飛絮,氣若游絲。 用二分查找和二進位位運算的思想都可以把死亡的老鼠降到最低。 其中,二進位位運算就是每一隻老鼠代表一個二進位0或1,0就代表老鼠存活,1代表老鼠死亡;根據數學運算 23 = 8、24 = 16,那麼至少需要四 ...
  • 一、Kafka存在哪些方面的優勢 1. 多生產者 可以無縫地支持多個生產者,不管客戶端在使用單個主題還是多個主題。 2. 多消費者 支持多個消費者從一個單獨的消息流上讀取數據,而且消費者之間互不影響。 3. 基於磁碟的數據存儲 支持消費者非實時地讀取消息,由於消息被提交到磁碟,根據設置的規則進行保存 ...
  • 大家好,我是陶朱公Boy。 前言 上一篇文章《關於狀態機的技術選型,最後一個真心好》我跟大家聊了一下關於”狀態機“的話題。從眾多技術選型中我也推薦了一款阿裡開源的狀態機—“cola-statemachine”。 於是就有小伙伴私信我,自己項目也考慮引入這款狀態機,但網上資料實在太少,能不能系統的介紹 ...
  • 使用腳本自動跑實驗(Ubuntu),將實驗結果記錄在文件中,併在實驗結束之後將結果通過郵件發送到郵箱,最後在windows端自動解析成excel表格。 ...
  • 話說在前面,我不是小黑子~ 我是超級大黑子😏 表弟大周末的跑來我家,沒事幹天天騷擾我,搞得我都不能跟小姐姐好好聊天了,於是為了打發表弟,我決定用Python做一個小游戲來消耗一下他的精力,我思來想去,決定把他變成小黑子,於是做了一個坤坤打籃球的游戲,沒想到他還挺愛玩的~ 終於解放了,於是我把游戲寫 ...