神經網絡技術在深入人們生活的同時，逐漸讓人們感到擔憂，因神經網絡以數量龐大的網絡用戶數據作支撐，而這些數據本應是匿名的，但現在已被科技掌控，一些人在看到手機上突然出現符合自己偏好的內容和廣告時，不禁會問，自己從未在該平台上搜索過相關內容，為什麼手機還能推送相關的信息？這是否代表手機的信息已遭到泄露？
事實上，神經網絡像是一個黑箱。人們對於未知的東西都有恐懼心態，通過神經網絡，看到的只有輸入的數據和輸出的答案，因此能見度缺乏令人們對神經網絡的黑箱決策產生疑問。同時，注重隱私的人也會擔憂，隨着神經網絡等深度算法對個人信息的掌握，及分析成為簡單又日常的事情，人們會不會自然成為被計算的目標，就像是大數據殺熟，互聯網大廠利用所擁有的用戶數據，對老用戶實行價格歧視，同樣的商品和服務，對老用戶的價格高於新用戶，以此獲得利潤最大化。因此，一些人擔憂神經網絡最後推送給用戶的並不是真正出於用戶的利益。
不過，神經網絡給人們生活帶來方便，推動社會進步，神經網絡可以解決各種各樣的問題，這些問題都很難被傳統編程所解決的。並且最重要的是，運用神經網絡技術的公司會對他們提取的用戶數據和所使用的技術負責。此外，這些公司還會面臨愈來愈嚴格的監管措施，例如須得到用戶的許可才能使用數據，及需要採取措施保護這些數據不被泄露。
