1956'da İstanbul'da doğdu. İlkokuldan sonra ortaokulu İstanbul'da Saint Joseph Lisesi'nde, liseyi de İsviçre'nin Lozan kentinde tamamlayan Nesin 1977-1981 yılları arasında Paris VII Üniversitesi'nden matematikten "maitrise" derecesini aldı. Daha sonra ABD'de Yale Üniversitesi'nde matematiksel mantık ve cebir konularında doktora yapan Ali Nesin, 1985-1986 arasında Kaliforniya Üniversitesi Berkeley Kampusü'nde öğretim üyesi olarak çalıştı. Türkiye'ye kısa dönem askerlik görevi için geldiği sırada "orduyu isyana teşvik" iddiasıyla tutuklanarak yargılandı. Yargılanma sonunda beraat ettiği halde pasaport verilmediği için işine dönemeyen Nesin bir yıl sonra yeniden pasaport alarak yurtdışına gitti.
1987-1989 arasında Notre Dame Üniversitesi'nde yardımcı doçent, ardından 1995'e kadar Kaliforniya Üniversitesi Irvine Kampusü'nde doçent ve daha sonra profesör olarak görev yaptı. 1993-1994 öğretim yılını Bilkent Üniversitesi'nde misafir öğretim görevlisi olarak geçirdi. Babası Aziz Nesin'in 1995'te ölümü üzerine yurda kesin dönüş yaptı ve Nesin Vakfı yöneticiliğini üstlendi. 1996'dan beri Bilgi Üniversitesi Matematik Bölümü Başkanı olan Ali Nesin dört çocuk sahibidir. Kasım 2004'ten beri de Nesin Yayınevi genel yönetmenliğini yapmaktadır ve 2011 yılından itibaren Hrant Dink Vakfı danışma kurulu üyesidir.
Ali Nesin'in Matematik ve Korku, Matematik ve Doğa, Matematik ve Sonsuz, Matematik ve Oyun, Matematik ve Develerle Eşekler, Matematik Canavarı ve Matematik ve Gerçek adlı popüler matematik kitaplarının yanısıra, Önermeler Mantığı, Sayma ve Sezgisel Kümeler Kuramı gibi yarıakademik matematik kitapları ve henüz birinci ve dördüncü ciltleri yayımlanan Analiz kitapları mevcuttur. Bunların yanı sıra çeşitli dergilerde çıkmış bilimsel makaleleri ve Alexander Borovik ile birlikte yazdığı İngilizce bir kitabı (Groups of Finite Morley Rank), babası Aziz Nesin'in Osmanlıca el yazılarından çevirileri bulunmaktadır. Babasıyla mektuplaşmaları (diğer kitapları gibi) Nesin Yayınevi tarafından iki cilt olarak yayımlanmıştır. Matematiksel araştırma alanı "Morley mertebesi sonlu gruplar"dır. Aynı zamanda, 2003'ten beri üç ayda bir yayımlanan ve Türk Matematik Derneği'nin sahibi olduğu Matematik Dünyası adlı derginin sorumlu yazı işleri müdürüdür. Ayrıca, TÜBA tarafından kabul edilmiş kümeler kuramı ve analiz konularında ders notları bulunmaktadır.
Matematik araştırmaları, bölüm başkanlığı ve Nesin Vakfı yöneticiliğinin yanı sıra yağlıboya resim, desen ve portre çalışmaları da yapmaktadır. Türkiye İnsan Hakları Kurumu (TİHAK) kurucu üyesidir. Nesin Matematik Köyü'nün kurucusudur.
