لینک دانلود و خرید پایین توضیحات
فرمت فایل word و قابل ویرایش و پرینت
تعداد صفحات: 98
فصل اول
مقدمه ای بر شبکه های عصبی
1-1 مقدمه
در سالیان اخیر شاهد حرکتی مستمر، از تحقیقات صرفاً تئوری به تحقیقات کاربردی بخصوص در زمینه پردازش اطلاعات، برای مسائلی که برای آن ها راه حلی موجودنیست ویا براحتی قابل حل نیستند بوده ایم. با عنایت به این امر، علاقه فزاینده ای در توسعه تئوریک سیستمهای دنیا میکی هوشمند مدل آزاد ـ که مبتنی بر داده های تجربی هستند ـ ایجاد شده است. شبکه های عصبی مصنوعی جزء این دسته از سیستمهای دینامیکی قراردارند، که با پردازش روی داده های تجربی دانش یا قانون نهفته در ورای داده ها را به ساختار شبکه منتقل می کنند. به همین خاطر به این سیستمها هوشمند گویند. چرا که براساس محاسبات روی داده های عددی یا مثال ها ، قوانین کلی را فرامی گیرند. این سیستم ها در مدلسازی ساختار نرو سیناپتیکی مغز بشر می کوشند. پیاده سازی ویژگیهای شگفت انگیز مغز در یک سیستم مصنوعی (سیستم دینامیکی ساخته دست بشر) همیشه وسوسه انگیز و مطلوب بوده است. محققینی که طی سالها در این زمینه فعالیت کرده اند بسیارند، لیکن نتیجه این تلاشها صرف نظر ازیافته های ارزشمند باور هر چه بیشتر این اصل بوده است که مغز بشر دست یافتنی است.
با تاکید بر این نکته که گذشته از متافیزیک، دور از دسترس بودن ایده آل «هوش طبیعی» را می توان با عدم کفایت دانش موجود بشر از فیزیولوژی عصبی پذیرفت، باید اذعان داشت که عالی بودن هدف و کافی نبودن دانش موجود خود سبب انگیزش پژوهشهای بیشتر و بیشتر در این زمینه بوده و خواهند بود، همچنان که امروزه شاهد بروز چنین فعالیتهایی در قالب شبکه های عصبی مصنوعی هستیم، اغلب آن هایی که با چنین سیستم هایی آشنایی دارند، به اغراق آمیز بودن نام آنها معترفند، اگرچه این اغراق بیانگر مطلوبیت و نیز بعضی شباهتهای این گونه سیستم ها با سیستم های طبیعی است ولی می تواند تا حدی بین آن چه که سیستم های عصبی مصنوعی در اختیار قرار می دهد و آن چه که از نامشان بر می آید تناقض ایجاد نماید.
1-2 تاریخچه شبکه های عصبی
بعضی از پیش زمینه های شبکه های عصبی را می توان به اوایل قرن بیستم و اواخر قرن نوزدهم برگرداند. در این دوره کارهای اساسی در فیزیک ، روانشناسی و نروفیزیولوژی توسط علمایی چون هرمان فون هلمهلتز، ارنست ماخو ایوان پاولف صورت پذیرفت. این کارهای اولیه عموماً بر تئوریهای کلی یادگیری ، بینایی و شرطی تاکید داشته اند و اصلاً به مدلهای مشخص ریاضی عملکرد نرونها اشاره ای نداشته اند.
دیدگاه جدید شبکه های عصبی در دهه 40 قرن بیستم آغاز شد زمانی که وارن مک کلوث و والترپیتز نشان دادند که شبکه های عصبی می توانند هر تابع حسابی و منطقی را محاسبه نمایند. کار این افراد را می توان نقطه شروع حوزه علمی شبکه های عصبی مصنوعی نامید و این موضوع با دونالدهب ادامه یافت، شخصی که عمل شرط گذاری کلاسیک را که توسط پاولف مطرح شده بود به عنوان خواص نرونها معرفی نمود و سپس مکانیسمی را جهت یادگیری نرونها بیولوژیکی ارائه داد. نخستین کاربرد شبکه های عصبی در اواخر دهه50 قرن بیستم مطرح شد زمانی که فرانک روز نبلات در سال 1958 شبکه پرسپترون را معرفی نمود. روز نبلات و همکارانش شبکه ای ساختند که قادر بود الگوها را از هم شناسایی نماید. در همین زمان بود که برنارد ویدرو در سال 1960 شبکه عصبی تطبیقی خطی آدلاین را با قانون یادگیری جدید مطرح نمود که از لحاظ ساختار، شبیه شبکه پرسپترون بود. پیشرفت شبکه های عصبی تا دهه 70 قرن بیستم ادامه یافت. در سال 1972 تئوکوهونن، جیمز اندرسون، بطور مستقل و بدون اطلاع از هم، شبکه های عصبی جدیدی را معرفی نمودند که قادر بودند به عنوان عناصر ذخیره ساز عمل نمایند. استفان گروسبرگ در این دهه روی شبکه های خود سازمانده فعالیت می کرد. فعالیت در زمینه شبکه های عصبی در دهه 60 قرن بیستم در قیاس با دهه 80 به علت عدم بروز ایده های جدید و نبود کامپیوترهای سریع ـ جهت پیاده سازی ـ کمرنگ می نمود. لکن در خلال دهه 80، رشد تکنولوژی میکروپروسسورها روند صعودی داشت و تحقیقات روی شبکه های عصبی فزونی یافت و ایده های بسیار جدیدی مطرح شدند. ایده های نووتکنولوژی بالا برای رونسانس دوباره در شبکه های عصبی کافی به نظر می رسید. در این زایش دوباره شبکه های عصبی و جدید قابل تامل می باشد. استفاده از مکانیسم تصادفی جهت توضیح عملکرد یک طبقه وسیع از شبکه های برگشتی است که می توان آن ها را جهت ذخیره سازی اطلاعات استفاده نمود. این ایده توسط جان هاپفلید، فیزیکدان آمریکایی در سال 1982 مطرح شد. دومین ایده مهم که کلید توسعه شبکه
لینک دانلود و خرید پایین توضیحات
فرمت فایل word و قابل ویرایش و پرینت
تعداد صفحات: 98
فصل اول
مقدمه ای بر شبکه های عصبی
1-1 مقدمه
در سالیان اخیر شاهد حرکتی مستمر، از تحقیقات صرفاً تئوری به تحقیقات کاربردی بخصوص در زمینه پردازش اطلاعات، برای مسائلی که برای آن ها راه حلی موجودنیست ویا براحتی قابل حل نیستند بوده ایم. با عنایت به این امر، علاقه فزاینده ای در توسعه تئوریک سیستمهای دنیا میکی هوشمند مدل آزاد ـ که مبتنی بر داده های تجربی هستند ـ ایجاد شده است. شبکه های عصبی مصنوعی جزء این دسته از سیستمهای دینامیکی قراردارند، که با پردازش روی داده های تجربی دانش یا قانون نهفته در ورای داده ها را به ساختار شبکه منتقل می کنند. به همین خاطر به این سیستمها هوشمند گویند. چرا که براساس محاسبات روی داده های عددی یا مثال ها ، قوانین کلی را فرامی گیرند. این سیستم ها در مدلسازی ساختار نرو سیناپتیکی مغز بشر می کوشند. پیاده سازی ویژگیهای شگفت انگیز مغز در یک سیستم مصنوعی (سیستم دینامیکی ساخته دست بشر) همیشه وسوسه انگیز و مطلوب بوده است. محققینی که طی سالها در این زمینه فعالیت کرده اند بسیارند، لیکن نتیجه این تلاشها صرف نظر ازیافته های ارزشمند باور هر چه بیشتر این اصل بوده است که مغز بشر دست یافتنی است.
با تاکید بر این نکته که گذشته از متافیزیک، دور از دسترس بودن ایده آل «هوش طبیعی» را می توان با عدم کفایت دانش موجود بشر از فیزیولوژی عصبی پذیرفت، باید اذعان داشت که عالی بودن هدف و کافی نبودن دانش موجود خود سبب انگیزش پژوهشهای بیشتر و بیشتر در این زمینه بوده و خواهند بود، همچنان که امروزه شاهد بروز چنین فعالیتهایی در قالب شبکه های عصبی مصنوعی هستیم، اغلب آن هایی که با چنین سیستم هایی آشنایی دارند، به اغراق آمیز بودن نام آنها معترفند، اگرچه این اغراق بیانگر مطلوبیت و نیز بعضی شباهتهای این گونه سیستم ها با سیستم های طبیعی است ولی می تواند تا حدی بین آن چه که سیستم های عصبی مصنوعی در اختیار قرار می دهد و آن چه که از نامشان بر می آید تناقض ایجاد نماید.
1-2 تاریخچه شبکه های عصبی
بعضی از پیش زمینه های شبکه های عصبی را می توان به اوایل قرن بیستم و اواخر قرن نوزدهم برگرداند. در این دوره کارهای اساسی در فیزیک ، روانشناسی و نروفیزیولوژی توسط علمایی چون هرمان فون هلمهلتز، ارنست ماخو ایوان پاولف صورت پذیرفت. این کارهای اولیه عموماً بر تئوریهای کلی یادگیری ، بینایی و شرطی تاکید داشته اند و اصلاً به مدلهای مشخص ریاضی عملکرد نرونها اشاره ای نداشته اند.
دیدگاه جدید شبکه های عصبی در دهه 40 قرن بیستم آغاز شد زمانی که وارن مک کلوث و والترپیتز نشان دادند که شبکه های عصبی می توانند هر تابع حسابی و منطقی را محاسبه نمایند. کار این افراد را می توان نقطه شروع حوزه علمی شبکه های عصبی مصنوعی نامید و این موضوع با دونالدهب ادامه یافت، شخصی که عمل شرط گذاری کلاسیک را که توسط پاولف مطرح شده بود به عنوان خواص نرونها معرفی نمود و سپس مکانیسمی را جهت یادگیری نرونها بیولوژیکی ارائه داد. نخستین کاربرد شبکه های عصبی در اواخر دهه50 قرن بیستم مطرح شد زمانی که فرانک روز نبلات در سال 1958 شبکه پرسپترون را معرفی نمود. روز نبلات و همکارانش شبکه ای ساختند که قادر بود الگوها را از هم شناسایی نماید. در همین زمان بود که برنارد ویدرو در سال 1960 شبکه عصبی تطبیقی خطی آدلاین را با قانون یادگیری جدید مطرح نمود که از لحاظ ساختار، شبیه شبکه پرسپترون بود. پیشرفت شبکه های عصبی تا دهه 70 قرن بیستم ادامه یافت. در سال 1972 تئوکوهونن، جیمز اندرسون، بطور مستقل و بدون اطلاع از هم، شبکه های عصبی جدیدی را معرفی نمودند که قادر بودند به عنوان عناصر ذخیره ساز عمل نمایند. استفان گروسبرگ در این دهه روی شبکه های خود سازمانده فعالیت می کرد. فعالیت در زمینه شبکه های عصبی در دهه 60 قرن بیستم در قیاس با دهه 80 به علت عدم بروز ایده های جدید و نبود کامپیوترهای سریع ـ جهت پیاده سازی ـ کمرنگ می نمود. لکن در خلال دهه 80، رشد تکنولوژی میکروپروسسورها روند صعودی داشت و تحقیقات روی شبکه های عصبی فزونی یافت و ایده های بسیار جدیدی مطرح شدند. ایده های نووتکنولوژی بالا برای رونسانس دوباره در شبکه های عصبی کافی به نظر می رسید. در این زایش دوباره شبکه های عصبی و جدید قابل تامل می باشد. استفاده از مکانیسم تصادفی جهت توضیح عملکرد یک طبقه وسیع از شبکه های برگشتی است که می توان آن ها را جهت ذخیره سازی اطلاعات استفاده نمود. این ایده توسط جان هاپفلید، فیزیکدان آمریکایی در سال 1982 مطرح شد. دومین ایده مهم که کلید توسعه شبکه
لینک دانلود و خرید پایین توضیحات
دسته بندی : وورد
نوع فایل : .doc ( قابل ویرایش و آماده پرینت )
تعداد صفحه : 17 صفحه
قسمتی از متن .doc :
خلاصه ای درباره ساختمان کانادایی
خاک و ساختمانها 30 – CBD
خاک احتمالاً مهمترین مصالح در میان تمام مصالح ساختمانی است و مطمئناً یکی از جالب ترین آنهاست چونکه این در بیشترین سایتهای ساختمانی نقش زمینه را بازی می نماید. این به چشم انداز مد نظر اجازه می دهد که بسیار زیاد به ظاهر پروژه های ساختمانی اضافه شده، از بیشترین مسیرها و فرودگاهها حمایت کرده و عنصری است که خاکریزهای بزرگ و کوچکش ساخته می شوند. در بعضی از کشورها از این حتی بعنوان عنصری ساختاری به شکل ساختمان بیزو یا بلوکهای خشک شده استفاده می شود. معماران و بنایان عمدتاً با خاک آشنا هستند. معمار باید ویژگی محلیش را بداند البته در زمانیکه برای اولین بار دارد درباره سایت و محل ساختمان مطالعه می کند ولو اینکه این امکان دارد هنوز پوشیده از علف باشد و این نیاز عمومی دفاتر معماری است تا اینکه این دفاتر حتماً تمامی پروژه های مهم ساختمانی را بصورت خاص و خسته کننده تست نمایند و صواب دیدی را بعنوان شرایط بستر پی دریافت نمایند که ساختارهای پیشنهادی را تحت پوشش قرار خواهد داد. بطور مشابه باید گفت که بنا دارای تخمین و ارزیابی پویایی درباره اهمیت خاک در عملیاتهایش می باشد چونکه دانش و علم نوع مدنظر که بر روی سایت ساختمانی متمرکز می باشد برای برنامه ریزی کار و ارزیابی هزینه اش لازم می باشد. علی رغم وجود داشتن این آشنایی تمام با خاک و ارتباط با ساختمانی مد نظر مشکلات همراه این همگی بسیار عمومی در سایت و محل ساختمانی هستند در هوای مرطوب و یا زمانی که آب باید به بیرون از محل های خاکبرداری ها باید با پمپ تخلیه شود شرایط گل آلودی غالباً خلق می شوند که باعث می شوند تا تصورات غلط مشترک و عمومی و نیز طرح شده درباره ویژگی واقعیش ارائه شوند. شاید شایع ترین مشکل از میان تمامی مشکلات ماندگاهی است که بوقوع می پیوندند البته در زمانی که گودال ها یا خاکبرداری های حول و حوش ساختمانها پر می شوند ولی شاید اکثر اینها بطور کامل ارزیابی نمی کنند که چگونه عمل پر نمودن صحیح باید انجام شود و یا اینکه
قرار دادن خاکریز در لایه های نازک مد نظر اینچنین ضرورت دارد. هدف این مقاله ارائه اطلاعات مختصر درباره ویژگی اصلی خاک و موضوعات اساسی همراه می باشد. این موضوع هیجان آوری نمی باشد و اینکه بطور کلی خاک هم اکثراً بعنوان ماده فاقد جذبه مد نظر قرار دارد ولی نگاه مختصری که امکان دارد در این مقاله به زمین شناسی خاک شود امکان دارد با این تاثیر روبرو شود بویژه زمانیکه به خاطر آورده می شود که دانش مرتبط با ماهیت خاک پیش نیازی برای ارزیابی کامل غارهایی است که در خاک زیر پی ایجاد می شوند. طرح پی ها موضوع بخش بعدی این سری از مطالب خلاصه را خواهد ساخت. در فضایی که در اینجا موجود است توجه به سمت ماهیت خاک، واکنش این با آب و چگونگی پر شدنش با این شرط که باید از استقرارهای بعدی اجتناب شود معطوف می گردد. بنا امکان دارد از اطلاعات مذکور مستقیماً در عملیاتهای پر شدنش استفاده نموده و خودش را از شر درد سر و مشکلات زیادی نجات دهد. معمار مشاهده خواهد کرد که چگونه علائم خصوصیات خاک امکان دارد به اندازه کافی ارائه شوند تا به وی نتیجه نهایی و دارای حداقل مشکل و نیز دلخواهش را ارائه دهد.
لینک دانلود و خرید پایین توضیحات
فرمت فایل word و قابل ویرایش و پرینت
تعداد صفحات: 98
فصل اول
مقدمه ای بر شبکه های عصبی
1-1 مقدمه
در سالیان اخیر شاهد حرکتی مستمر، از تحقیقات صرفاً تئوری به تحقیقات کاربردی بخصوص در زمینه پردازش اطلاعات، برای مسائلی که برای آن ها راه حلی موجودنیست ویا براحتی قابل حل نیستند بوده ایم. با عنایت به این امر، علاقه فزاینده ای در توسعه تئوریک سیستمهای دنیا میکی هوشمند مدل آزاد ـ که مبتنی بر داده های تجربی هستند ـ ایجاد شده است. شبکه های عصبی مصنوعی جزء این دسته از سیستمهای دینامیکی قراردارند، که با پردازش روی داده های تجربی دانش یا قانون نهفته در ورای داده ها را به ساختار شبکه منتقل می کنند. به همین خاطر به این سیستمها هوشمند گویند. چرا که براساس محاسبات روی داده های عددی یا مثال ها ، قوانین کلی را فرامی گیرند. این سیستم ها در مدلسازی ساختار نرو سیناپتیکی مغز بشر می کوشند. پیاده سازی ویژگیهای شگفت انگیز مغز در یک سیستم مصنوعی (سیستم دینامیکی ساخته دست بشر) همیشه وسوسه انگیز و مطلوب بوده است. محققینی که طی سالها در این زمینه فعالیت کرده اند بسیارند، لیکن نتیجه این تلاشها صرف نظر ازیافته های ارزشمند باور هر چه بیشتر این اصل بوده است که مغز بشر دست یافتنی است.
با تاکید بر این نکته که گذشته از متافیزیک، دور از دسترس بودن ایده آل «هوش طبیعی» را می توان با عدم کفایت دانش موجود بشر از فیزیولوژی عصبی پذیرفت، باید اذعان داشت که عالی بودن هدف و کافی نبودن دانش موجود خود سبب انگیزش پژوهشهای بیشتر و بیشتر در این زمینه بوده و خواهند بود، همچنان که امروزه شاهد بروز چنین فعالیتهایی در قالب شبکه های عصبی مصنوعی هستیم، اغلب آن هایی که با چنین سیستم هایی آشنایی دارند، به اغراق آمیز بودن نام آنها معترفند، اگرچه این اغراق بیانگر مطلوبیت و نیز بعضی شباهتهای این گونه سیستم ها با سیستم های طبیعی است ولی می تواند تا حدی بین آن چه که سیستم های عصبی مصنوعی در اختیار قرار می دهد و آن چه که از نامشان بر می آید تناقض ایجاد نماید.
1-2 تاریخچه شبکه های عصبی
بعضی از پیش زمینه های شبکه های عصبی را می توان به اوایل قرن بیستم و اواخر قرن نوزدهم برگرداند. در این دوره کارهای اساسی در فیزیک ، روانشناسی و نروفیزیولوژی توسط علمایی چون هرمان فون هلمهلتز، ارنست ماخو ایوان پاولف صورت پذیرفت. این کارهای اولیه عموماً بر تئوریهای کلی یادگیری ، بینایی و شرطی تاکید داشته اند و اصلاً به مدلهای مشخص ریاضی عملکرد نرونها اشاره ای نداشته اند.
دیدگاه جدید شبکه های عصبی در دهه 40 قرن بیستم آغاز شد زمانی که وارن مک کلوث و والترپیتز نشان دادند که شبکه های عصبی می توانند هر تابع حسابی و منطقی را محاسبه نمایند. کار این افراد را می توان نقطه شروع حوزه علمی شبکه های عصبی مصنوعی نامید و این موضوع با دونالدهب ادامه یافت، شخصی که عمل شرط گذاری کلاسیک را که توسط پاولف مطرح شده بود به عنوان خواص نرونها معرفی نمود و سپس مکانیسمی را جهت یادگیری نرونها بیولوژیکی ارائه داد. نخستین کاربرد شبکه های عصبی در اواخر دهه50 قرن بیستم مطرح شد زمانی که فرانک روز نبلات در سال 1958 شبکه پرسپترون را معرفی نمود. روز نبلات و همکارانش شبکه ای ساختند که قادر بود الگوها را از هم شناسایی نماید. در همین زمان بود که برنارد ویدرو در سال 1960 شبکه عصبی تطبیقی خطی آدلاین را با قانون یادگیری جدید مطرح نمود که از لحاظ ساختار، شبیه شبکه پرسپترون بود. پیشرفت شبکه های عصبی تا دهه 70 قرن بیستم ادامه یافت. در سال 1972 تئوکوهونن، جیمز اندرسون، بطور مستقل و بدون اطلاع از هم، شبکه های عصبی جدیدی را معرفی نمودند که قادر بودند به عنوان عناصر ذخیره ساز عمل نمایند. استفان گروسبرگ در این دهه روی شبکه های خود سازمانده فعالیت می کرد. فعالیت در زمینه شبکه های عصبی در دهه 60 قرن بیستم در قیاس با دهه 80 به علت عدم بروز ایده های جدید و نبود کامپیوترهای سریع ـ جهت پیاده سازی ـ کمرنگ می نمود. لکن در خلال دهه 80، رشد تکنولوژی میکروپروسسورها روند صعودی داشت و تحقیقات روی شبکه های عصبی فزونی یافت و ایده های بسیار جدیدی مطرح شدند. ایده های نووتکنولوژی بالا برای رونسانس دوباره در شبکه های عصبی کافی به نظر می رسید. در این زایش دوباره شبکه های عصبی و جدید قابل تامل می باشد. استفاده از مکانیسم تصادفی جهت توضیح عملکرد یک طبقه وسیع از شبکه های برگشتی است که می توان آن ها را جهت ذخیره سازی اطلاعات استفاده نمود. این ایده توسط جان هاپفلید، فیزیکدان آمریکایی در سال 1982 مطرح شد. دومین ایده مهم که کلید توسعه شبکه
لینک دانلود و خرید پایین توضیحات
فرمت فایل word و قابل ویرایش و پرینت
تعداد صفحات: 98
فصل اول
مقدمه ای بر شبکه های عصبی
1-1 مقدمه
در سالیان اخیر شاهد حرکتی مستمر، از تحقیقات صرفاً تئوری به تحقیقات کاربردی بخصوص در زمینه پردازش اطلاعات، برای مسائلی که برای آن ها راه حلی موجودنیست ویا براحتی قابل حل نیستند بوده ایم. با عنایت به این امر، علاقه فزاینده ای در توسعه تئوریک سیستمهای دنیا میکی هوشمند مدل آزاد ـ که مبتنی بر داده های تجربی هستند ـ ایجاد شده است. شبکه های عصبی مصنوعی جزء این دسته از سیستمهای دینامیکی قراردارند، که با پردازش روی داده های تجربی دانش یا قانون نهفته در ورای داده ها را به ساختار شبکه منتقل می کنند. به همین خاطر به این سیستمها هوشمند گویند. چرا که براساس محاسبات روی داده های عددی یا مثال ها ، قوانین کلی را فرامی گیرند. این سیستم ها در مدلسازی ساختار نرو سیناپتیکی مغز بشر می کوشند. پیاده سازی ویژگیهای شگفت انگیز مغز در یک سیستم مصنوعی (سیستم دینامیکی ساخته دست بشر) همیشه وسوسه انگیز و مطلوب بوده است. محققینی که طی سالها در این زمینه فعالیت کرده اند بسیارند، لیکن نتیجه این تلاشها صرف نظر ازیافته های ارزشمند باور هر چه بیشتر این اصل بوده است که مغز بشر دست یافتنی است.
با تاکید بر این نکته که گذشته از متافیزیک، دور از دسترس بودن ایده آل «هوش طبیعی» را می توان با عدم کفایت دانش موجود بشر از فیزیولوژی عصبی پذیرفت، باید اذعان داشت که عالی بودن هدف و کافی نبودن دانش موجود خود سبب انگیزش پژوهشهای بیشتر و بیشتر در این زمینه بوده و خواهند بود، همچنان که امروزه شاهد بروز چنین فعالیتهایی در قالب شبکه های عصبی مصنوعی هستیم، اغلب آن هایی که با چنین سیستم هایی آشنایی دارند، به اغراق آمیز بودن نام آنها معترفند، اگرچه این اغراق بیانگر مطلوبیت و نیز بعضی شباهتهای این گونه سیستم ها با سیستم های طبیعی است ولی می تواند تا حدی بین آن چه که سیستم های عصبی مصنوعی در اختیار قرار می دهد و آن چه که از نامشان بر می آید تناقض ایجاد نماید.
1-2 تاریخچه شبکه های عصبی
بعضی از پیش زمینه های شبکه های عصبی را می توان به اوایل قرن بیستم و اواخر قرن نوزدهم برگرداند. در این دوره کارهای اساسی در فیزیک ، روانشناسی و نروفیزیولوژی توسط علمایی چون هرمان فون هلمهلتز، ارنست ماخو ایوان پاولف صورت پذیرفت. این کارهای اولیه عموماً بر تئوریهای کلی یادگیری ، بینایی و شرطی تاکید داشته اند و اصلاً به مدلهای مشخص ریاضی عملکرد نرونها اشاره ای نداشته اند.
دیدگاه جدید شبکه های عصبی در دهه 40 قرن بیستم آغاز شد زمانی که وارن مک کلوث و والترپیتز نشان دادند که شبکه های عصبی می توانند هر تابع حسابی و منطقی را محاسبه نمایند. کار این افراد را می توان نقطه شروع حوزه علمی شبکه های عصبی مصنوعی نامید و این موضوع با دونالدهب ادامه یافت، شخصی که عمل شرط گذاری کلاسیک را که توسط پاولف مطرح شده بود به عنوان خواص نرونها معرفی نمود و سپس مکانیسمی را جهت یادگیری نرونها بیولوژیکی ارائه داد. نخستین کاربرد شبکه های عصبی در اواخر دهه50 قرن بیستم مطرح شد زمانی که فرانک روز نبلات در سال 1958 شبکه پرسپترون را معرفی نمود. روز نبلات و همکارانش شبکه ای ساختند که قادر بود الگوها را از هم شناسایی نماید. در همین زمان بود که برنارد ویدرو در سال 1960 شبکه عصبی تطبیقی خطی آدلاین را با قانون یادگیری جدید مطرح نمود که از لحاظ ساختار، شبیه شبکه پرسپترون بود. پیشرفت شبکه های عصبی تا دهه 70 قرن بیستم ادامه یافت. در سال 1972 تئوکوهونن، جیمز اندرسون، بطور مستقل و بدون اطلاع از هم، شبکه های عصبی جدیدی را معرفی نمودند که قادر بودند به عنوان عناصر ذخیره ساز عمل نمایند. استفان گروسبرگ در این دهه روی شبکه های خود سازمانده فعالیت می کرد. فعالیت در زمینه شبکه های عصبی در دهه 60 قرن بیستم در قیاس با دهه 80 به علت عدم بروز ایده های جدید و نبود کامپیوترهای سریع ـ جهت پیاده سازی ـ کمرنگ می نمود. لکن در خلال دهه 80، رشد تکنولوژی میکروپروسسورها روند صعودی داشت و تحقیقات روی شبکه های عصبی فزونی یافت و ایده های بسیار جدیدی مطرح شدند. ایده های نووتکنولوژی بالا برای رونسانس دوباره در شبکه های عصبی کافی به نظر می رسید. در این زایش دوباره شبکه های عصبی و جدید قابل تامل می باشد. استفاده از مکانیسم تصادفی جهت توضیح عملکرد یک طبقه وسیع از شبکه های برگشتی است که می توان آن ها را جهت ذخیره سازی اطلاعات استفاده نمود. این ایده توسط جان هاپفلید، فیزیکدان آمریکایی در سال 1982 مطرح شد. دومین ایده مهم که کلید توسعه شبکه